عن عبد الله بن عمرو، وفضالة بن عبيد، وروى عن جماعة من التابعين. وروى عنه الأوزاعي وسعيد بن عبد العزيز وابن أنعم.
استعمله عمر بن عبد العزيز على أهل إفريقية ليحكم بينهم بكتاب الله عزّ وجلّ وسنة نبيه صلّى الله عليه وسلم ويفقههم في الدين. وهو أحد العشرة التابعين. سكن القيروان وسار في المسلمين بالحق والعدل، وعلمهم السنن وكانت وفاته بالقيروان: توفي سنة اثنتين وثلاثين ومائة، وأسلم على يديه خلق كثير من البربر.
ذكره أبو جعفر الطبري، قال: كان خير وال وخير أمير، سار فيهم بالعدل والحق، وكان حريصا على دعاء البربر إلى الإسلام.
زياد بن أنعم، قال: سمعت إسماعيل بن عبيد الله يخطب ويحث الناس على الجهاد ويقول: «إن نبيّ الله صلّى الله عليه وسلم قال: «والله لو علمت أن أصحابي لا يتأخرون ولا أجد ما يقوتهم، ما تركت سرية تخرج في سبيل الله تعالى إلا خرجت فيها.
ولغدوة وروحة في سبيل الله عزّ وجلّ خير من الدنيا وما فيها».
قال معن التنوخي: «ما رأيت زاهدا في هذه الأمة غير اثنين: عمر بن عبد العزيز، وإسماعيل بن عبيد الله المخزومي».