ويوم موته وثب ذئب على شاه فقال: الرعاة كأن الرجل الصالح قد مات فنظروا فوجدوا عمر قد مات تلك الليلة - رضي الله عنه -، ولي الخلافة بعده ابن عمه سليمان بن عبد الملك سنة تسع وتسعين.
وكانت خلافته مثل خلافة أبي بكر الصديق سنتين وخمسة أشهر، وكانت وفاته يوم الجمعة لعشر بقين من شهر رجب سنة إحدى ومائة وهو ابن تسع وثلاثين سنة وستة أشهر، ومات بدير سمعان قرية من قري حمص، وكان قد أرسل لصاحب الأرض الذي يساومه على موضع قبره فقال: يا أمير المؤمنين والله إني لأتبرك بقبرك وقد حاللتك منه فأبى أن يقبله إلا بثمن، وبايعهم على موضع قبره بدينارين، وقال لهم: إنما أريد بطن الأرض، فإذا دفنت فاحرثوا أرضكم وأزرعوا فيها وابنوا وانتفعوا فلا يضرني ذلك، ودفن هناك وكان عنده شيء من شعر رسول الله - صلى الله عليه وسلم - وأظفاره فأوصى أن تدفن معه.
لطيفة: قال يوسف بن ماهك: بينما نحن نسوي التراب على قبر عمر إذا سقط علينا من السماء رق مكتوب عليه: بسم الله الرحمن الرحيم أمان من الله لعمر بن عبد العزيز من النار.
وقال خالد الربعي: مكتوب في التوراة أن السماء تبكي على عمر بن عبد العزيز أربعين صباحاً.
لطيفة أخرى: قال الغزالي في منهاج الفائزين روي أن بعض الصالحين قال: كان لي ولداً استشهد فلم أره في المنام إلا ليلة توفي عمر بن عبد العزيز - رضي الله عنه -، إذا تراءى إليَّ تلك الليلة فقلت: يا بني ألم تك ميتاً فقال: لا ولكني استشهدت وأنا حي عند الله أرزق، فقلت ما جاء بك فقال: نودي في السماء أن لا يبقى نبي ولا صديق ولا شهيد إلا وحضر الصلاة على عمر بن عبد العزيز فجئت لأشهد الصلاة ثم جئتكم لأسلم عليكم.
قال البخاري «وكتب بن عبد العزيز إلى عدي بن عدي» (?) هذا هو السيد