وكان عمر يشبه خالدًا كثيرًا، فقد روى يعقوب بن سفيان، بإسناد صحيح عن الحسن قال: لقي عمر علقمة بن عُلَاثة في جوف الليل، وكان عمر يشبَّه بخالد بن الوليد، فقال له علقمة: يا خالد عزلك هذا الرجل، لقد أبى إلا شحًا حتى لقد جئت إليه وابن عمي. نسأله شيئًا، فأما إذ فعل فلن أسأله شيئًا. فقال له عمر: هيه مما عندك فقال: هم قوم لهم علينا حق فنؤدي لهم حقهم، وأجرنا على الله، فلما أصبحوا قال عمر لخالد: ماذا قال لك علقمة منذ الليلة؟ قال: والله ما قال لي شيئًا، فأجار علقمة، وقضى حاجته. ولما حضرت خالدًا الوفاة، أوصى إلى عمر، فتولى عمر وصيته، وسمع عمر راجزًا يذكر خالدًا فقال: رحم الله خالدًا، فقال له طلحة بن عبيد الله:
لا أَعرفَنَّكَ بعد الموت تَنْدُبني ... وفي حياتي ما زودتني رادي
فقال عمر إني ما عتبت على خالد إلا في تقدمه، وما كان يصنع في المال.
وروى ابن المبارك عن أبي وائل قال: لما حضرت خالدًا الوفاة قال: لقد طلبت القتل في مِظَانِّه. فلم يقدر لي، إلَّا أن أموت على فراشي، وما من عملي شيء أرجى عندي، بعد لا إله إلا الله، من ليلة بتها وأنا مُتَتَرِّسٌ، والسماء تُهِلُّني تمطر إلى الصبح، حتى نغير على الكفار. ثم قال: إذا أنا مت، فانظروا في سلاحي وفرسي، فاجعلوه عدة في سبيل الله.
وروى ابن عبد البر قال: لما حضرت خالدًا الوفاة قال: لقد شهدت مئة زحف أو زهاءها، وما في جسدي موضع شبر إلا وفيه ضربة، أو طعنة، أو رمية، ثم ها أنا أموت على فراشي كما يموت العير، فلا نامت أعين الجبناء.
مات خالد سنة إحدى وعشرين أو اثنتين وعشرين، في خلافة عمر بن الخطاب، بحمص على الصحيح. ودُفن في قرية على ميل منها. قال الواقدي: سألت عنها فقيل: قد اندثرت. وقيل: مات بالمدينة، وحضر عمر جنازته، ولما خرج عمر مع جنازته قال: ما على نساء آل الوليد أن يسفحنَ على خالد دموعهن، ما لم يكن نَقْعًا أو لَقْلَقة. وروى ابن عبد البر هذا المعنى بوجه يمكن معه موت خالد بحمص، فقال: بلغ عمرًا أن نسوة من نساء بني المغيرة اجتمعن في دار يبكين على خالد بن الوليد، فقال عمر: وما عليهن أن يبكين أبا سليمان ما لم يكن نقع أو لقلقة. وذكر محمد بن سلام قال: لم تبق إمرأة من بني المغيرة إلا وضعت لِمَّتَها على قبر خالد، يقول: حلقت رأسها.
له ثمانية عشر حديثًا، اتفقا على حديث، وانفرد البخاريّ بحديث موقوف عليه، روى عنه ابن عباس وقيس بن أبي حازم وجابر والمقدام بن معدي كرب. هذا الحديث أخرجه البخاريّ أيضًا في الجهاد وفي علامات النبوءة وفي فضل خالد وفي المغازي، والنسائي في الجنائز. ثم قال المصنف: