وكان علاء الدين سأل الشيخ المصير إليه، فأقام في دار أبي غالب العطار متوارياً، وصنف فيها بلا كتاب يطالعه جميع الطبيعيات والإلهيات من كتاب الشفاء، وابتدأ بالمنطق وكتب منه جزءاً. ثم اتهمه تاج الملك بمكاتبة علاء الدولة فأخذه وحبسه في قلعة نردوان وبقي فيها أربعة أشهر. ثم قصد علاء الدولة أبو جعفر كاكويه همذان واستولى عليها. ثم رجع علاء الدولة وعاد تاج الملك وابن شمس الدولة من القلعة إلى همذان وحملا معهما الشيخ، فنزل في دار علوي واشتغل بتصنيف المنطق من كتاب الشفاء، وصنف في القلعة كتاب الهداية وكتاب حي بن يقظان ورسالة الطير وكتاب القولنج، فأما الأدوية القلبية فقد صنفها في أول وروده همذان. ثم عن للشيخ التوجه تلقاء أصفهان، فخرج متنكراً، ومعه أخوه محمود والفقيه أبو عبيد وغلامان له في زي الصوفية، فلما وصلوا إلى الطبران على باب أصفهان استقبله خواص الأمير علاء الدولة، وحمل إليه الثياب والمراكب الخاصة، وأنزل في دار عبد الله بن بابي في محلة كونكنيذ.

وكان الشيخ في ليالي الجمعات يحضر مجالس علاء الدولة مع علماء البلدة. وإذا تكلم استفادوا منه في كل فن. واشتغل بتتميم كتاب الشفاء. أما في المجسطي فأورد عشرة أشكال في اختلاف المنظر. وأورد في علم الهيئة أشياء لم يسبق إليها، وأورد في أقليدس شكوكا، وفي الارتماطيقي خواص (حسنة) ، وفي الموسيقى مسائل غفل عنها الأولون. أما كتاب الحيوان والنبات من الشفاء فقد أنهاه في السنة التي توجه فيها علاء الدولة تلقاء سابور خواست، وكان الشيخ في خدمته وكان السلطان محمود بن سبكتكين وابنه مسعود لا يعدان واحدا من الملوك من أقرانهما وخصائصهما سوى علاء الدولة أبي جعفر بن كاكويه وكان يقيم ابن علاء الدولة بحضرة غزنة مدة، وجرى يوما عند علاء الدولة ذكر الخلل الواقع في التقاويم المعمولة بحسب الأرصاد القديمة، فأمر علاء الدولة الشيخ بالإشتغال برصد الكواكب، وأطلق من الأموال ما احتاج إليه، وابتدأ الشيخ به والفقيه أبو عبيد هو القيم بهذه الأمور يتخذ آلاتها ويستخدم صناعتها، حتى ظفر بكثير من المسائل. وكان الخلل واقعا في أمر الرصد لكثرة الأسفار، وتراكم العوائق. وصنف الشيخ في أصفهان كتاب العلائي.

ومن عجائب أحوال الشيخ أن أبا عبيد صحبة ثلاثين سنة قال إنه ما رآه ينظر في كتاب في كتاب جديد على الولاء بل يقصد المواضع الصعبة، والمسائل المشكلة منه، فينظر ما قاله المصنف فيها، فتبين عنده مرتبته في العلم.

وكان الشيخ جالساً يوماً بين يدي الأمير، والأديب أبو منصور الجبان حاضر، فجرت في اللغة مسألة تكلم الشيخ فيها بما حضره، فقال له أبو منصور: إنك حكيم، ولكنك لم تقرأ من اللغة ما يرضى به كلامك، فاستنكف الشيخ من هذا الكلام، وتوفر على درس كتب اللغة ثلاث سنين. وكان ينظر في كتاب تهذيب اللغة من تصنيف أبي منصور الأزهري.

فبلغ الشيخ في اللغة طبقة قلما يتفق مثلها. وأنشأ ثلاث قصائد وضمنها ألفاظاً غريبة، وكتب ثلاث رسائل على طريقة ابن العميد والصاحب والصابي وأمر بتجليدها وأخلاق جلدها. ثم سأل الأمير عرض تلك المجلدة على أبي منصور الجبان وذكر أنا ظفرنا بهذه المجلدة في الصحراء في وقت الصيد، فيجب أن تنتقدها وتقرر لنا ما فيها. فنظر فيها الشيخ أبو منصور، وأشكل عليه كثير منها فقال له الشيخ أبو علي إن ما تجهله من هذا الكتاب مذكور في موضع كذا وكذا، وذكر له كتباً معروفة في اللغة، ففطن أبو منصور أن هذه القصائد والرسائل من إنشاء أبي علي فتنصل واعتذر إليه. ثم صنف الشيخ كتاباً في اللغة وسماه لسان العرب، لم يصنف مثله، ولم ينقله إلى البياض فبقي على مسودته، لا يهتدي أحد إلى ترتيبه.

وقد حصل للشيخ تجارب في المعالجات وعلقها في أجزاء، وعزم على تدوينها في كتاب القانون فضاعت الأجزاء.

ومن تجاربه أنه صدع يوماً، فتصور أن مادة نزلت إلى حجاب رئته وأنه لا يأمن ورماً يحصل فيه، فأمر بإحضار ثلج كثير ولفه في خرقة وغطى رأسه بها حتى تقوى الموضع، وامتنع عن نزوله تلك المادة وعوفي.

ومن تجاربه أن إمرأة مسلولة بخوارزم حضرته، فأمرها إلا تتناول من الأشربة إلا جلنجبين السكر حتى تناولت على مر الأيام منه مائة من، وشفيت المرأة.