ولما حضر سلمان الفارسي الوفاة، جعل يبكي، فقيل له: (ما يبكيك؟ ألست فارقت رسول الله صلى الله عليه وسلم وهو عنك راضٍ؟ فقال: والله! ما بي جزع من الموت، ولكن رسول الله صلى الله عليه وسلم عهد إلينا عهداً يكن متاع أحدكم من الدنيا كزاد الراكب، وهذه الأسودة حولي) كأنه يقول هذا الأثاث والمتاع حولي لم أمتثل للعهد، قال: [فلما مات، نظروا في بيته، فلم يروا في بيته إلا إكافاً ووطاءً ومتاعاً قُوِّم بنحو عشرين درهماً] كل ما يملكه بعشرين درهماً، فانظروا يا عباد الله! كم عندنا من الأثاث في بيتنا، وروى ابن سعد في الطبقات من طرق عدة عن الشعبي، قال: [لما حضرت سلمان الوفاة، قال لصاحبة منزله وهي زوجته: هلمي خبيَّتي الذي استخبأت فيه، قالت: فجئته بصرة مسك، فقال: ائتيني بقدح فيه ماءٌ فنثر المسك فيه، ثم ماسه بيده، ثم قال: انضحيه حولي، فإنه يحضرني خلقٌ من خلق الله يجدون الريح ولا يأكلون الطعام، ثم اجفئي عليَّ الباب وانزلي قالت: ففعلت، وجلست هنيهةً، فسمعت هسهسةً، قالت: ثم صعدت، فإذا هو قد مات].
وعن الشعبي، قال: [أصاب سلمان صرة مسكٍ يوم فتحت جلولاء، فاستودعها امرأته، فلما حضرته الوفاة، قال: هاتي هذه المسكة فمرسها في ماء، ثم قال: انضحيها حولي، فإنه يأتي زوارٌ الآن قالت: ففعلت، فلم يمكث بعد ذلك إلا قليلاً حتى قبض] وقال الشعبي أيضاً: [حدثني الجزل عن امرأة سلمان بقيرة أنه لما حضرته الوفاة، دعاني وهو في عليّة له -تقول زوجته: لها أربعة أبواب- فقال: افتحي هذه الأبواب يا بقيرة، فإن لي اليوم زواراً لا أدري من أي هذه الأبواب يدخلون عليَّ، ثم دعا بمسك، فقال: أديثيه في تنور ففعلت، ثم قال: انضحيه حول فراشي، ثم انزلي، فامكثي فسوف تطلعين فتريني على فراشي، فاطلعت فإذا هو قد أخذت روحه، فكأنما هو نائم في فراشه].