كان أبو عبيد -رحمه الله- أيضاً متصفاً بالحلم، وله في ذلك قصص: فمن ذلك: أن أبا عمرو الطوسي قال: قال لي أبي: غدوتُ إلى أبي عبيد ذات يوم فاستقبلني يعقوب بن السكيت، فقال: إلى أين؟ فقلتُ: إلى أبي عبيد، فقال: أنتَ أعلم منه -كأنه يزهده في لقاء أبي عبيد - قال: فمضيت إلى أبي عبيد فحدثته أن فلاناً قال لي: إني أعلم منك، فقال لي أبو عبيد: الرجل غضبان، قال: قلت: مِن أي شيء؟ قال: جاءني منذ أيام فقال لي: اقرأ علي غريب الحديث، فقلت: لا.
ولكن تجيء مع عامة الناس في الدرس، أما أن أخصص لك درساً فلا أطيق ذلك، فغضب ودخل ذلك في نفسه، وقال لك من جراء ذلك هذا الكلام.
فلم يرد عليه ويقول: هذا جاهل، أو هذا سفيه ونحو ذلك؛ وإنما قال: الرجل غضبان، والغضبان يخرج منه كلام ليس بموزون.
وكان صاحب أدبٍ أيضاً:- قال إسحاق بن راهويه -رحمه الله- وهو من كبار العلماء، ومن قرناء الإمام أحمد رحمه الله، حتى قال بعضهم: ما عَبَر الجسر أحدٌ أحفظ من رجلين -أي: جسر بغداد المنصوب على النهر الذي عبره الكثير من العلماء الأجلاء- مثل أبي زرعة الرازي وإسحاق بن راهويه، أي: على رأي من قال هذه العبارة.
قال إسحاق بن راهويه: أبو عبيد أوسعنا علماً، وأكثرنا أدباً.