كان لأبي العلاء قدم راسخة في اللغة والنحو، فعلى مستوى اللغة كان عالما بـ ((أصولها وأسرارها، تفرد بأشياء لم يسبق إليها لغوي من القدامى، وأمسك من اللغة بنصيب كبير)) (?). ولا يُعرف ((عالم من علماء اللغة العربية منذ العصور الأولى لتدوينها أتى بمثل ما أتى به أبو العلاء، فقد أحاط بمادة اللغة وصرفها في جميع شئونه وأغراضه الفنية، واستعملها أحسن استعمال، فيما أملى من كتبه العلمية والأدبية والدينية: شعرًا ونثرًا)) (?)، وصفه تلميذه التبريزي بقوله: ((ما أعرف أن العرب نطقت بكلمة ولم يعرفها المعري)) (?). هذا التمكن دفع د. طه حسين أن يقول عنه:
((ما أعرف أحدًا وعى اللغة العربية كما وعاها أبو العلاء، وما أعرف أن أحدًا صرف هذه اللغة في أغراضه وحاجاته الفنيه كما صرفها أبو العلاء)) (?).
وعندما جلس للتدريس في داره استحالت إلى ((مدرسة يؤمها الطلاب الكثيرون من أبعد الأقطار الإسلامية (...) كلهم يطلب عنده العلم والأدب، ويلتمس منه المعرفة والفقة بأصول اللغة)) (?).