من أهل النصرية، بكر به أبوه فأسمعه من أبي إسحاق إبراهيم البرمكي والقاضي أبي الطيب طاهر بن عبد الله الطبري وأبي الحسن محمد بن أحمد بن الآبنوسي، وأبي الحسن علي بن أبي طالب المكي وأبي الفضل هبة الله بن أحمد بن المأموني، فهؤلاء تفرد بالرواية عنهم. وسمع أيضا بنفسه القاضي أبا يعلى الفراء وعبد العزيز الأنماطي وعبد الله بن الحسن الخلال والقاضي أبا المظفر صاحب إبراهيم النسفي.
وقرأ بنفسه وكتب بخطه، وتفقه في صباه على القاضي أبي يعلى بن الفراء. وقرأ الفرائض والحساب والهندسة حتى برع في جميع ذلك، وله فيه مصنفات.
قرأت بخط أبي الفضل بن سامع: سمعت أبا محمد بن الخشاب يقول: سمعت قاضي المرستان- يعني محمد بن عبد الباقي- يقول: نظرت في كل علم وحصلت منه بعضه [3] أو كله إلا هذا النحو، فإني قليل البضاعة فيه.
أخبرني شهاب بن محمود المزكي بهراة قال: أنبأني أبو سعد بن السمعاني قال:
محمد بن عبد الباقي الأنصاري أسند شيخ بقي على وجه الأرض، وكانت إليه الرحلة من أقطار الأرض، عارف بالقوم، متدين، حسن الكلام، حلو المنطق، مليح المحاورة، ما رأيت أجمع للفنون منه، وكان سريع النسخ، حسن القراءة للحديث. سمعته يقول:
ما أعرف أني ضيعت ساعة من عمري في لهو أو لعب.
مولده في صفر سنة اثنتين وأربعين وأربعمائة، وتوفي في رجب سنة خمس وثلاثين وخمسمائة، ودفن بباب حرب قريبا من بشر الحافي؛ وأوصى أن يكتب على لوح قبره: قُلْ هُوَ نَبَأٌ عَظِيمٌ أَنْتُمْ عَنْهُ مُعْرِضُونَ.