وسبب توبته أنه أصاب فى الطريق رقعة فيها اسم الله، وقد وطئتها الأقدام، فأخذها واشترى بدرهم كان معه غالية، فطيبها وجعلها في شق حائط، فرأى في المنام كأن قائلا يقول: " يا بشر! طيبت أسمى، لأطيبن اسمك في الدنيا والآخرة! " وروى أنه إلى النهر فغسله، وكان لا يملك إلا درهما، فاشترى به مسكا وماء ورد، وجعل يتتبع اسم الله ويطيبه، ورجع إلى منزله فنام؛ فأتاه آت وقال: " يا بشر! كما طيبت أسمى لأطيبن ذكرك! وكما طهرته لأطهرن قلبك! ".
ومناقبه جمة أفردها ابن الجوزى بالتأليف.
مات عشية الأربعاء لعشر بقين من ربيع الأول - وقيل: لعشر خلون من المحرم - سنة سبع وعشرين ومائتين، وقد بلغ من العمر خمساً وسبعين سنة، وقيل: سبعاً وستين. وأخرجت جنازته بعد صلاة الصبح، ولم يحصل في القبر إلى الليل، وكان نهاراً صافياً.
ومن كلامه: " لا تكون كاملا حتى يأمنك عدوك، وكيف يكون