أخذ العلم عن كبار علماء الإسلام في مختلف الأقطار والأمصار، ففي هراة أخذ عن أبي الفضل محمد بن عبد الله خَمَيْرُويه، وبشير بن محمد المزني وغيرهم وفي البصرة أخذ عن أبي بكر هلال بن محمد بن محمد، وشَيْبَان بن محمد الضُّبَيْعِيُّ وغيرهما، وفي بغداد أخذ عن أبي الحسن الدارقطني وأبي بكر
الباقلاني وأبي بكر بن فورك وطنهم، وفي دمشق أخذ عن عبد الوهاب الكلابي وغيره، وفي مصر عن أبي مسلم الكاتب وطبقته، وفي سَرْخَس عن زاهر بن أحمد الفقيه وفي بَلْخ عن أبي إسحاق إبراهيم بن أحمد المُسْتَمْلِيِّ، وفي مكة أخذ عن أبي إسحاق إبراهيم بن محمد الدَّيْنوَريِّ.
ثم استقر بمكة مجاورًا للحرم وتزوج من العرب، وصار شيخ الحرم في عصره بلا منازع وإمامًا حافظًا ثقة ثبتًا ديِّنًا ضابطًا متقنًا، واسع الرواية سمع منه كثير من العلماء وخاصة المغاربة منهم.
وكان أبو ذر على مذهب مالك، أخذ المذهب والكلام على رأي الأشعري (?) عن الباقلاني، وبمكة لازمه أبو الوليد الباجي وقام بخدمته، وسافر معه لأهله بسروات بني شبابة، ودرس عنه فقه مالك وسمع منه الحديث حيث روى عنه صحيح البخاري بإسناده.
له مؤلفات نافعة عديدة منها: (دلائل النبوة) و (مسانيد الموطأ) و (مستدرك على الصحيحين) و (السنة) و (المناسك) وغيرها.