لقد تتلمذ الحافظ ابن أبي شيبة على عدد كثير من علماء العراق والحجاز وغيرهما من البلدان، وسأورد أشهرهم هنا لنتبين الطبقة التي يروي عنهم، فمن هؤلاء:
- القاضي شريك بن عبد الله، وهو أكبر شيخ له.
- أبو الأحوص سلام بن سليم.
- عبد الله بن المبارك.
- جرير بن عبد الحميد.
- سفيان بن عيينة.
- خلف بن خليفة.
- هشيم بن بشير.
- وكيع بن الجراح.
- يحيى القطان.
- إسماعيل بن عياش.