السراج والزجاج والأخفش والمطرز غلام ثعلب وغيرهم، وبتوجيه ابن درستويه درس بعمق كتاب سيبويه بشرح المبرد، وقرأ كتب ابن قتيبة مع ابن المؤلف أبى جعفر كما قرأ كتب يحيى المنجم، ثم صرف همته لدراسة الحديث على أيدى كبار رجاله أمثال أبى بكر عبد اللَّه بن أبى داود السجستانى وعبد اللَّه بن محمد بن عبد العزيز اللغوى، وقرأ القرآن الكريم على إمام القراء ابن المجاهد، ثم غادر بغداد إلى الأندلس بدعوة -كما يقال- من صاحبها الحاكم عبد الرحمن الثالث فوصل إلى قرطبة يوم السابع والعشرين من شعبان سنة 330 هـ (= 17 مايو 942 م)، ومات بها كما يقول الزبيدى مكرمًا فى ربيع الثانى سنة 356 هـ (مارس ابريل 967 م).

وقال ابن الفرضى إنه مات يوم السبت سابع جمادى الأولى 356 هـ (ابريل 967 م)، وهذه المعلومة الدقيقة من جعفر بن القالى وقد نقلها عنه ابن الفرضى (انظر ابن بشكوال)، ولقد أصبح القالى الشخصية البارزة فى الغرب الإسلامى، فلما هاجر إلى قرطبة اصطحب معه قسمًا كبيرًا من مكتبته، ويقال إن الكتب التى ضاعت وهو فى القيروان أملاها من ذاكرته فى مقره الجديد أو كتب عليها تعليقات وشروحًا (راجع ابن خير 395، والزبيدى 203 والقفطى = 1/ 205)، ولم يكترث كنحوى بالمنازعات التى كانت بين رجال مدرستى البصرة والكوفة، والتى ترجع إلى أيام المبرد وثعلب واكنه كان يعتمد فى حكمه على ما يراه هو نفسه، على الرغم من أنه كان أميل لمذهب البصريين (راجع القفطى 1/ 205) وقد ضاع الجانب الأكبر من مؤلفاته ولم يبق منها إلا النادر القليل (انظر القفطى 1/ 206، وياقوت: معجم الأدباء 2/ 352) ولعل أعظمها هو كتابه الأمالى الذى يورد فيه كل دقيقة من مشاكل فقه اللغة فيما يتعلق بالعربية، وأحسن طبعة لهذا الكتاب هى التى أصدرتها دار الكتب المصرية سنة 1344 كما يحتوى الجزء الثالث منه