وفي أمارته على المدينة في سنة 91هـ حج الخليفة الوليد بن عبد الملك فاستقبله عمر بن عبد العزيز أحسن استقبال، وشاهد الوليد بأم عينيه الإصلاحات العظيمة التي حققها عمر بن عبد العزيز في المدينة المنورة (?).
قال العلماء في السير: كان خبيب بن عبد الله بن الزبير قد حدَّث عن النبي صلى الله عليه وسلم أنه قال: إذا بلغ بنو أبي العاص (?) ثلاثين رجلاً اتخذوا عباد الله خولاً، ومال الله دولاً (?) وهو حديث ضعيف فبعث الوليد بن عبد الملك إلى عمر بن عبد العزيز ـ واليه على المدينة ـ يأمره بجلده مائة سوط وبحبسه فجلده عمر مائة سوط، وبرد له ماءً في جرّة ثم صبه عليه في غداة باردة فكزّ (?)، فمات فيها. وكان عمر قد أخرجه من السجن حين اشتد وجعه، وندم على ما صنع منه وحزن عمر على موت خبيب، فقد روى مصعب بن عبد الله عن مصعب بن عثمان أنهم نقلوا خبيباً إلى دار عمر بن مصعب بن الزبير ببقيع الزبير واجتمعوا عنده حتى مات، فبينما هم جلوس، إذ جاءهم الماجشون يستأذن عليهم وخبيب مسجى بثوبه. وكان الماجشون مع عمر بن عبد العزيز في ولايته على المدينة. فقال عبد الله بن عروة: ائذنوا له. فلما دخل قال: كأن صاحبكم في مرية من موته اكشفوا له عنه، فكشفوا عنه، فلما رآه الماجشون انصرف. قال الماجشون: فانتهيت إلى دار مروان، فقرعت الباب ودخلت فوجدت عمر كالمرأة الماخض قائماً وقاعداً فقال لي: ما وراءك فقلت: مات الرجل. فسقط على الأرض فزعاً ثم رفع رأسه يسترجع فلم يزل يعرف فيه حتى مات. واستعفى من المدينة، وامتنع من الولاية. وكان كلما قيل له: إنك قد صنعت كذا فأبشر فيقول: كيف بخبيب (?)،
ولم يذكرها ويتصورها أمام عينه حتى مات (?)،