وشيعه إلى مثواه الأخير في (البقيع) سعد بن أبي وقاص وهو يقول: (واجبلاه)، ووضع السرير على كاهله .
وسمع علي بن أبي طالب يقول يوم مات عبد الرحمن بن عوف: (اذهب ابن عوف! فقد أدركت صفوها وسبقت رنقها) .
وقد دفن بالبقيع مدفن أهل المدينة ولا يزال البقيع كذلك، وصلى عليه عثمان بن عفان رضي الله عنهما.