لما بلغ الخطيب سبعين سنة وشاخ وشعر بقرب أجله حنّ إلى بغداد، وكانت فتنة البساسير قد زالت، وعاد الأمر إلى أهل السنة، ونُصِبَ الخليفة منهم مرةً أخرى، فرجع الخطيب رحمه الله في سنة (462هـ) سالكاً طريق الساحل ماراً بـ طرابلس ودخل فيها وجلس فيها فترةً يسيرة ناظر في ضمن من ناظره بعض أهل التشيع هناك، وكانت طرابلس تحت حكمهم، وتفوق عليهم، ثم خرج منها قاصداً حلب، وأقام بها أياماً يسيرة يُعلِّم ويحدِّث، وسمع من بعض الشيوخ بـ حلب، ومنهم: أبو الفتح أحمد بن النحاس رحمه الله، ثم توجه إلى بغداد فوصلها في سنة (462هـ) في تلك السنة أيضاً، فاستغرقت الرحلة من صُوْر إلى بغداد أربعة أشهر لم يكن يترك في طريقه الفائدة والعبادة والتقرب إلى الله، فلا زال على طريقته التي عهدوه عليها في رحلة الحج من ختمٍ للقرآن كل يومٍ ختمةً كاملةً.
ولما وصل إلى بغداد وسُر بالوصول إليها بعد فراق دام إحدى عشرة سنة، أراد أن يكافئ أحد من صنع إليه معروفاً في بغداد، فلم يجد ما يكافئه به أعظم من كتابه تاريخ بغداد، وقال: لو كان عندي أعز منه لأهديته له.
وكانت هذه النسخة من تاريخ بغداد بخط الخطيب نفسه، واستأنف الخطيب رحمه الله دروسه في بغداد في جامع المنصور بعد أن آل الأمر فيها لـ أهل السنة، والخليفة العباسي القائم بأمر الله، واجتمع إليه الناس، ورجع إليه طلاب الحديث بشوقٍ ولهفة وحنين، فحدَّث بـ سنن أبي داود من روايته وبكتبه وتواريخه.