فقيل: نسبة إلى غَزَالة، وهي قرية من قرى طوس (?). وقال الآخرون: منسوب إلى غزالة ابنة كعب الأحبار (?). والأول - التشديد - هو الأشهر عند أصحاب التراجم (?).
وللإمام الغزالي لقبان: أشهرهما: حجّة الإِسلام، والآخر: زين الدين (?). أما مولده فقد كان في طوس سنة (450) هـ، وهذا باتفاق بين مصادر ترجمته (?)، إلا أن ابن خلِّكان قال: وقيل سنة إحدى وخمسين (?).
نشأ الغزالي في كنف والده، وكان رجلاً فقيراً صالحاً لا يأكل إلا من كسب يديه في عمل غزل الصوف، وكان مع ذلك يطوف على الفقهاء ويجالسهم، ويغشى مجالس الوعظ، وكان يدعو الله أن يرزقه ابناً فقيهاً وآخر واعظاً، فاستجاب الله دعوته (?) فكان ابنه محمَّد من أشهر الفقهاء، وابنه أحمد من أشهر الوعَّاظ.