وقد كان مرَّةً مع عبد الله بن طاهر، فوجَّه إليه أبو دُلَف العجلي يستهديه أبا عبيدٍ لمدَّة شهرين، فأنفذ أبا عبيدٍ إليه، فأقام شهرين، فلمَّا أراد الانصراف وصله أبو دُلَف بثلاثين ألف درهم، فلم يقبلها، وقال: أنا في جنبةِ رجلٍ ما يحوجني إلى صلة غيره، ولا آخذ ما فيه عليَّ نقصٌ، فلما عاد إلى ابن طاهر وصله بثلاثين ألف دينار، بدلَ ما وصله أبو دُلَف فقال له: أيها الأمير، قد قَبِلْتُها، ولكن قد أغنيتني بمعروفك وبرِّك، وكفايتك عنها، وقد رأيتُ أن أشتريَ بها سلاحاً وخيلاً، وأتوجَّه بها إلى الثغرة ليكونَ الثوابُ متوفِّراً على الأمير، ففعل.
فهذا دليلٌ واضح على إكرام الطاهريين له، وعلى عفَّة أبي عبيد ونزاهته، رحمه الله.
ثم صارت صلتُه بعدها قويةً مع عبد الله بن طاهر، ولمَّا صنَّف أبو عبيد كتاب غريب الحديث عرضه على عبد الله بن طاهر، فاستحسنه وقال: إنَّ عقلاً بعثَ صاحبه على عملِ مثلِ هذا الكتاب لحقيقٌ أن لا يُحوجَ إلى طلب المعاش، فأجرى له عشرة آلاف درهم في كل شهر. فكان هذا ممَّا ساعده على التفرُّغ لطلب العلم والازدياد منه، وكفاه مؤنة معاشه ودنياه.
وفي سنة 213 هـ توجَّه أبو عبيد إلى مصر مع يحيى بن معين، فسمع علماءها وكتب بها، ثم رحل إلى دمشق طلباً للعلم.
وبعدها عاد إلى بغداد، ثم قصد مكة سنة 219 هـ، وأقام بها حتى مات
وفاته
خرج أبو عبيد إلى مكة سنة تسع عشرة ومائتين، وحجَّ، ولم يزلْ بها إلي أن توفي سنة 224 هـ. في يوم الأربعاء 12 المحرم، كما في التونسية.