قال أبو الحسين بن الفراء كان للبربهاري مجاهدات ومقامات في الدين وكان المخالفون يغلظون قلب السلطان عليه، ففي سنة إحدى وعشرين وثلاثمائة أرادوا حبسه فاختفى وأخذ كبار أصحابه وحملوا إلى البصرة فعاقب الله الوزير ابن مقلة وأعاد الله البربهاري إلى حشمته وزادت، وكثر أصحابه فبلغنا أنه اجتاز بالجانب الغربي فعطس فشمته أصحابه فارتفعت ضجتهم حتى سمعها الخليفة، فأخبر بالحال فاستهولها، ثم لم تزل المبتدعة توحش قلب الراضي حتى نودي في بغداد لا يجتمع اثنان من أصحاب البربهاري، فاختفى وتوفي مستتراً في رجب سنة ثمان وعشرين وثلاثمائة، فدفن بدار أخت توزون فقيل إنه لما كفن وعنده الخادم صلى عليه وحده فنظرت هي من الروشن فرأت البيت ملآن رجالاً في ثياب بيض يصلون عليه فخافت وطلبت الخادم، فحلف أن لم يفتح وقيل إنه ترك ميراث أبيه تورعاً وكان سبعين ألفاً، في ثلاث وعشرين وثلاثمائة أوقع بأصحاب البربهاري فاستتر وتتبع أصحابه ونهبت منازلهم وعاش سبعاً وسبعين سنة، وكان في آخر عمره قد تزوج بجارية.