ذكر أبو العرب أنه من أصحاب النبي صلّى الله عليه وسلم ممن بايع تحت «الشجرة»، وأنه دخل إفريقية وأقام بها، وحضرته الوفاة بها، وأمرهم أن يسووا قبره بالأرض.
قيل: إن قبره «بمقبرة البلوية».
ذكر أحمد بن أبي سليمان أن أبا زمعة دفن بباب تونس، وبه سميت «البلوية».
قال أبو العرب: ولقد حدثني بعض أصحابنا أنه حضر حفر قبر في البلوية قال فحفروا في أرض شديدة لم يحسبوا أن أحدا حفر فيها، فظهروا على رجل مدفون لم يتغير منه شيء فظنوا أنه «أبو زمعة البلوي» صاحب رسول الله صلّى الله عليه وسلم.