قال ثابت البناني: عن أنس: قال أبو عبيدة: (يا أيها الناس! إني امرؤ من قريش، وما منكم من أحمر ولا أسود يفضلني بتقوى إلا وددت أني في مسلاخه).
وهذا من تواضعه رضي الله عنه وأرضاه.
وعن قتادة قال: قال أبو عبيدة بن الجراح: وددت أني كنت كبشاً فيذبحني أهلي فيأكلون لحمي ويحسون مرقي.
هذا ورع قد مات مع الذين ماتوا، حتى إننا الآن لا نسمع به ولا نشم رائحته.
وعن طارق: أن عمر كتب إلى أبي عبيدة في الطاعون: إنه قد عرضت بي حاجة، ولا غنى بي عنك فيها، فعجل إلي، فلما قرأ الكتاب قال: عرفت حاجة أمير المؤمنين إنه يريد أن يستبقي من ليس بباق، سبحان الله! وذلك لأن عمر كان يحب أبا عبيدة بن الجراح كثيراً جداً، فقد كانت أمانة الأمة كلها مجتمعة في هذا الرجل، فلما علم عمر أن الطاعون بأرض الشام وكان أبو عبيدة هناك، علم أنه قد يهلك، والأمة تحتاج لمثله، فانظروا إلى فقه عمر ثم انظروا إلى ما هو أروع من ذلك وهو فقه أبي عبيدة بن الجراح، فإن عمر بن الخطاب لما خاف على أبي عبيدة قال: إني قد عرضت لي حاجة ولا غنى بي عنك فيها، يعني: أريدك أن تأتي؛ وذلك حتى ينقذه الله من الطاعون، وهذا كان خلاف السنة؛ لأن النبي صلى الله عليه وسلم قال: (إذا نزل الطاعون بأرض فلا تخرجوا منها ولا تدخلوا إليها).
فلما قرأ أبو عبيدة هذا الكتاب قال: عرفت حاجة أمير المؤمنين، إنه يريد أن يستبقي من ليس بباق، فكتب إلى عمر: إني قد عرفت حاجتك فحللني من عزيمتك، يعني: اجعلني في حل من أمرك، فإني في جند من جنود المسلمين، ولم أرغب بنفسي عنهم، فلما قرأ عمر الكتاب بكى، فقيل له: مات أبو عبيدة، قال: لا، وكأن قد.
قال: فتوفي أبو عبيدة وانكشف الطاعون.