أما تلاميذ أبي عبيد رحمه الله، فإنه لما طار صيته في الآفاق، وسارت بتصانيفه الركبان، قصده الطلاب والحفاظ للأخذ منه والدراسة على يديه، وممن درس عليه بعضُ شيوخه وأقرانه، فسمعوا منه، وقال: كنت في تصنيف هذا الكتاب - غريب الحديث - أربعين سنة، وهذا مما يدل على عظمة هذا الكتاب، وهو كتاب مطبوع.
وكان لـ أبي عبيد -رحمه الله تعالى- منزلة عظيمة عند الكبار من أئمة عصره، قال حمدان بن سهل: سألت يحيى بن معين عن الكتابة عن أبي عبيد والسماع منه؟ فتبسم، وقال: مثلي يُسأل عن أبي عبيد؟! أبو عبيد يُسأل عن الناس.
ومِن شيوخه وأقرانه الذين حدثوا عنه: أحمد بن حنبل رحمه الله، شيخ الإسلام، الإمام المشهور.
سعيد بن الحكم المصري، الثقة الثبت الفقيه.
علي بن عبد الله المديني، أعلم أهل عصره بالحديث والعلل، المتوفى سنة: (234هـ) بـ سامراء.
أبو عبد الله محمد بن إسماعيل البخاري، فإنه ممن درس أيضاً على أبي عبيد.
وكيع بن الجراح، الإمام الحافظ.
يحيى بن معين، سيد الحفاظ، وإمام أهل الجرح والتعديل.
ومن أشهر تلاميذ أبي عبيد القاسم بن سلاَّم: إبراهيم بن إسحاق الحربي.
أحمد بن يحيى البلاذري، الكاتب صاحب فتوح البلدان.
عباس بن محمد الدوري.
عبد الله بن عبد الرحمن الدارمي السمرقندي، الإمام، شيخ الإسلام، صاحب سنن الدارمي.
عبد الله بن محمد بن أبي الدنيا، الحافظ الإمام صاحب التصانيف الكثيرة جداً والمشهورة.
علي بن عبد العزيز البغوي، وهو أشهر تلاميذه من جهة الملازمة، وأشدهم له ملازمة، وأثبتهم فيه، وهو راوي كتب أبي عبيد، حتى عُرِف بوراق أبي عبيد، لزم أبا عبيد حتى مات.