ثم أقبل على العلم الإلهي، وقرأ كتاب ما بعد الطبيعة، وأعاد قراءته أربعين مرة، وصار له محفوظاً، ومع ذلك لا يفهمه ولا المقصود منه، وأيس من نفسه وقال: هذا كتاب لا سبيل إلى فهمه. واتفق أنه كان يوماً من الأيام في سوق الوراقين فعرض عليه دلال يقال له محمد الدلال كتاباً ينادي عليه، فرده أبو علي رد متبرم، معتقداً ألا فائدة في هذا العلم، فقال الدلال اشتر مني فإنه رخيص بثلاثة دراهم وصاحبه محتاج إلى ثمنه، فاشتراه فإذا هو كتاب لأبي نصر الفارابي الفيلسوف الذي هو المعلم الثاني في أغراض كتاب ما بعد الطبيعة.
قال فرجعت إلى بيتي وأسرعت قراءته فانفتح علي في الوقت أغراض ذلك الكتاب بسبب أنه كان لي محفوظاً، ففرحت بذلك وتصدقت بشيْ كثير على الفقراء شكراً لله تعالى.
وكان ملك المشرق وخراسان في ذلك الزمان الأمير نوح بن منصور فعرض له مرض أعجز الأطباء. وكان اسمه اشتهر في التوفر على العلم والقراءة. فسألوا الأمير إحضار أبي علي فحضره وشاركهم في معالجته فوسم بخدمته. وصار أول حكيم توسم بخدمة الملوك. وكان الحكماء قبل أبي علي يترفعون عن ذلك ولا يقربون أبواب السلاطين.
فسأل الأمير نوح بن منصور الرئيس أبو علي الأذن له في دخول دار له فيها بيوت الكتب فنال الإيجاب فطالع من جملتها فهرست كتب الأوائل وطلب ما احتاج إليه فرأى من الكتب ما لم يقرع أسماع الناس اسمه لأبي نصر الفارابي وغيره. فقرأ تلك الكتب وظفر بفوائدها وعرف مرتبة كل رجل في علمه من المتقدمين.
فاتفق احتراق تلك الدار، واحترقت الكتب بأسرها، وقال بعض خصماء أبي علي إنه أحرق تلك الكتب ليضيف تلك العلوم والنفائس إلى نفسه، ويقطع أنساب تلك الفوائد عن أربابها والله أعلم.
فلما بلغ أبو علي سنة ثمان عشرة من عمره فرغ من العلوم كلها، ولم يتجدد له بعدها شيء، وكان في جواره رجل يقال له أبو الحسن العروضي، فسأله أن يصنف كتاباً جامعاً في هذا العلم، فصنف له المجموع وذكر اسمه فيه، وأثبت فيه سائر العلوم سوى الرياضي (فإنه ليس فيه زيادة مرتبة وسعادة في العقبى) .
و (كان) في جواره أيضاً رجل يقال له أبو بكر البرقي الخوارزمي فقيه زاهد مفسر مائل إلى هذه العلوم، فسأله شرح الكتب فصنف له كتاب الحاصل والمحصول. وكان في بيت كتب بوزجان منه نسخة فقدت. وأتم كتاب الحاصل والمحصول في عشرين مجلدة. وصنف له كتاباً في الأخلاق وسماه البر والإثم. ورأيته عند الإمام محمد الحارثان السرخسي رحمه الله بخط رديء مقرمط في سنة أربع وأربعين وخمسمائة ثم مات والده وسن أبي علي اثنتان وعشرون سنة.
وتصرفت (به) الأحوال، وتقلد عملاً من أعمال السلطان. ولما اضطربت أمور السامانية دعته الضرورة إلى الخروج من بخارء والإنتقال إلى كر كانج والإختلاف إلى خوارزم شاه علي بن مأمون بن محمد وكان أبو الحسن السهلي المحب لهذا العلم بها وزيراً. وكان أبو علي على زي الفقهاء بطيلسان وعمامة (تحت الحنك) ، فأثبتوا له مشاهرة تقوم بكفاية مثله.
ثم دعت الضرورة أيضاً إلى الإنتقال عن خوارزم والتوجه تلقاء نسا وأبي ورد ثم إلى طوس ثم إلى سمنقان ولم يدخل نيسابور، ثم إلى جاجرم رأس حد خراسان ثم إلى جرجان. وكان يقصد الأمير شمس المعالي قابوس بن وشمكير، فاتفق في أثناء تلك الحالات أخذ قابوس وحبسه في بعض القلاع وموته هناك. ثم مضى إلى دهستان ومرض بها مرضاً صعباً. وعاد إلى جرجان، واتصل به الفقيه أبو عبيد الجوزجاني، واسمه عبد الواحد، وبجرجان رجل يقال له أبو محمد الشيرازي قد ارتبط الشيخ واشترى له داراً في جواره.
وأبو عبيد يختلف إليه كل يوم يقرأ المجسطي ويستملي المنطق، فأملى عليه المختصر الأوسط في المنطق، لذلك يقال له الأوسط الجرجاني. وصنف لأبي محمد الشيرازي كتاب المبدأ والمعاد وكتاب الأرصاد الكلية. وصنف في جرجان كتباً كثيرة كأول القانون والمختصر من المجسطي وكثيراً من الرسائل والكتب.