ولا نعرف بأي طريق حج الثعالبي بحرا أو برا، ولكنه على كل حال أدى الفريضة وجاور بمكة سنتي 1062 - 1063، وأخذ العلم عن مشائخ الحرم، ثم قصد مصر فمكث بها سنتي 1064 - 1065، وأخذ عن علمائها، وخصوصا علي الأجهوري ومحمد البابلي والخفاجي، وأخذ الطريقة أيضا عن أبي الحسن علي المصري ودرس عليه. وكان يلتقي بالمغاربة ويساعدهم على شق طريقهم، كما فعل مع العياشي في حجته الأولى سنة 1064 (?). وفي السنة الموالية (1065) عاد الثعالبي إلى مكة واستوطنها وهناك أخذ يدرس للناس الحديث وغيره متسلحا بعلوم متعددة وأساليب متنوعة ساعدته على جلب الناس إليه. وبعد أن مكث سنوات عزبا تزوج من جارية اشتراها، كما يقول المحبي، وأنجب منها أولادا. وذكر العياشي أنه هنأه بواحد منهم أثناء حجته الثانية سنة 1073 (?).
أخذ الثعالبي الحديث وبعض الطرق الصوفية على عادة معظم العلماء في وقته. فعندما كان بالجزائر أخذ عن شيخه سعيد قدورة، كما عرفنا، الأحاديث المسلسلة ولبس الخرقة والمصافحة والمشابكة ونحوها من مظاهر الصوفية. ولا ندري إن كان قد أخذ، وهو في الجزائر أيضا، بعض الطقوس والأوراد. غير أنه لما كان بمصر سنة 1065 قصد الصعيد لأخذ الطريقة على الشيخ أبي الحسن علي المصري. ولا ريب أن هذه كانت هي الطريقة الشاذلية. وفي الحجاز أخذ الثعالبي الطريقة النقشبندية على الشيخ صفي الدين القشاشي المدني. فقد ذكر العياشي أنه قد تلقى من الثعالبي بطريق الإجازة مبادئ هذه الطريقة، وأنه ألبسه الخرق الثماني المنصوص عليها عند أصحابها. وهي الخرق التي لبسها الثعالبي بدوره على يد الشيخ القشاشي المذكور. ولكن الثعالبي، كما لاحظ العياشي، لم يكن متنطعا ولا متصلبا في تصوفه، فلم يكن ضد التصوف بالمرة كما كان بعض الفقهاء، ولم