وقد ترك الذهبي أولادا ثلاثة كانوا من العلماء، وهم:

1- ابنته أم سلمة: سمعت مع أبيها من عيسى بن عبد الرحمن بن معالي بن حمد، أبي محمد الصالحي السمسار ومطعم الأشجار، المتوفى سنة "719هـ1320م"، قال الحافظ الذهبي في "معجم شيوخه الكبير" "2/ 86": "قلت: وسمعه معي ولداي عبد الله وأم سلمى". وقد أجاز لها ولوالدها شيخ المستنصرية الإمام العالم المحدث الصادق الخير رشيد الدِّيْنِ أَبُو عَبْدِ اللهِ مُحَمَّدُ بنِ عَبْدِ اللهِ بنِ عُمَرَ بنِ أَبِي القاسم البغدادي، المتوفى سنة "707هـ-1307م" كما قال الحافظ الذهبي في "معجم شيوخه الكبير" "2/ 204" أجاز لنا مروياته غير مرة أولها في سنة خمس وتسعين وستمائة "695هـ-1296م" وأجاز لبنتي أم سلمة وقد كان انفرد بأجزاء عوالي الأول الكبير من المخلصات، وجزء ابن كرامة، وتاسع الجعديات، والأطعمة للدارمي، والأول من عوالي ابن البطر، وجزء ابن محمش، وجزء ابن بالويه، والخامس والسادس من حديث ابن صاعد، وجزء ابن المنذر، ودرجات التائبين، ولمع ابن السراج في التصوف.

2- ابنه أبو هريرة، عبد الرحمن: قرأ هو ووالده على عمة الحافظ الذهبي: ست الأهل بنت عثمان بن قايماز بن عبد الله، أم محمد المتوفاة سنة "729هـ1329م" كما قال الحافظ الذهبي في "معجم شيوخه الكبير" "1/ 285".

وسمع هو ووالده الحافظ الذهبي من عبد المحسن بن إبراهيم بن خولان الصالحي، المتوفى سنة "722هـ" كما قال في "معجم شيوخه الكبير" "1/ 416".

وسمع مع أبيه من فاطمة بنت الإمام القدوة عز الدين إِبْرَاهِيْمُ بنُ عَبْدِ اللهِ بنِ مُحَمَّدِ بنِ أَحْمَدَ الصالحية الحنبلية، قال الحافظ الذهبي في "معجم شيوخه الكبير" "2/ 102": "روت لنا نسخة أبي مسهر، وجزء الفراتي، سمعهما معي ابني عبد الرحمن".

وسمع مع أبيه من محمد بن أحمد الزراد الحريري الصالحي، المتوفى سنة "726هـ-1326م". قال الحافظ في "معجم شيوخه الكبير" "2/ 170": سمعت منه مع ولدي عبد الرحمن جزء ابن عرفة، وجزء ابن فيل، والبطاقة والجمعة ونسخة إبراهيم بن سعد، وجزء الفراتي، ونسخة أبي مسهر، وجزء الكسائي، ومعه من الذكر لابن فارس، وفضائل معاوية، وفوائد نصر، وجزء ابن الفرات، والعلم لأبي خيثمة.