ولما تولى الخلافة أرسل إلى علماء الأقاليم فقال: [[أوصوني فإني قد توليت أمر أمة محمد صلى الله عليه وسلم]] فكتب له محمد بن كعب: " يا أمير المؤمنين! والله الذي لا إله إلا هو ما بقي من الخلفاء على قيد الحياة إلا أنت، فاتق الله أن تصرع كما صرعوا ".
وكتب له سالم بن عبد الله من أخواله: " يا أمير المؤمنين! صم هذا اليوم، حتى تلقى الله فتفطر عنده يوم يستبشر الصائمون بفطرهم "، وكتب له مطرف بن عبد الله الشخير: " يا أمير المؤمنين! لو كان لك خصم لديد لأعجزك، فكيف بخصمين؟! فكيف بثلاثة؟! وكيف بك وكل واحد من رعيتك خصم لك يوم القيامة عند الله؟!!
فأخذ هذه الرسائل وطواها ينظر فيها كل يوم، وجمع سبعة من الصلحاء ومن الزهاد والعباد وقال: أنتم جُلَّاسي وسُمَّاري كل ليلة، أشترط عليكم ثلاثة شروط، الأول: ألا تغتابوا في مجلسي أحداً، والأمر الثاني: ألا تتحدثوا في الدنيا أبداً، والأمر الثالث: ألا تمزحوا وأنا جالس، فكانوا يجتمعون بعد صلاة العشاء، فيتحدثون في الموت -وما أدراك ما الموت؟! - وما قبل الموت وما بعده، ثم ينفضون من مجلسهم كأنهم قاموا عن جنازة.
وفي أثناء الخلافة كتب له سالم بن عبد الله بن عمر كتاباً فظيعاً شديداً مدهشاً، يقول: " يا أمير المؤمنين! والله لقد تولى الملك قبلك أناس ثم صرعوا، فها هنا مصارعهم في القبور فانظر إليها لترى، كانوا ينظرون بعيون إلى اللذات فأكلت، وكانوا يأكلوا في بطون فنهشت، وكانوا يمسون بخدود أكلها الدود، فاحذر أن تكون مع المحبوسين يوم القيامة يوم يطلق العادلون ".
عمر بن عبد العزيز رضي الله عنه وأرضاه تولى الخلافة فنام بعد صلاة الظهر في ذاك اليوم، فقال له ابنه الصالح العابد المجاهد عبد الملك بن عمر بن عبد العزيز -وعمره آنذاك تسعة عشر سنة- قال له: يا أبتاه! أتنام وقد توليت أمر أمة محمد صلى الله عليه وسلم، يسألك الفقير ويشكو إليك المسكين، ويتحاكم إليك المظلوم، فمن لك بهؤلاء إذا أتوا خصومك يوم القيامة.