ونشأ عمر في هذه البيئة المترفة، في قصور الملك والنعيم، فأبوه عبد العزيز بن مروان الذي كان والياً على مصر حينذاك، واستمر على ولاية مصر عشرين عاماً، والخليفة الأموي خليفة المسلمين هو الوليد بن عبد الملك بن مروان، وهو ابن عم عمر بن عبد العزيز رضي الله عنه.
نشأ عمر في هذه البيئة، في بيئة القصور، في بيئة الخلافة والإمارة والملك والجاه والنعيم والسلطان، ولكنه شب ونشأ نشأة عجيبة لفتت إليه جميع الأنظار، فلقد ذهب هذا الولد في مقتبل عمره إلى أبيه الوالي والأمير وقال: يا أبتِ! دعني أذهب إلى المدينة المنورة لأجلس بين يدي علمائها وفقهائها، ولأتأدب بآدابهم، فأذن الوالي لولده، وانطلق هذا الغلام إلى المدينة المنورة، وعكف في أول أمره على حفظ القرآن الكريم، فأنهى حفظه في زمن قياسي أذهل الجميع في المدينة، ثم بعد ذلك انكب هذا الغلام على طلب العلم، وعلى طلب الفقه والسنة حتى قال في حقه الصحابي الجليل أنس بن مالك، وقد طال به العمر وصلى يوماً وراء هذا الشاب، وراء عمر بن عبد العزيز، فقال أنس بن مالك صاحب رسول الله صلى الله عليه وسلم: والله ما صليت صلاة وراء إمام أشبه بصلاة رسول الله من هذا الغلام.
إنه عمر بن عبد العزيز! وقال في حق عمر الإمام العلم إمام التفسير مجاهد بن جبر الذي عرض القرآن على ابن عباس ثلاثين مرة، قال مجاهد: جئنا لنعلم عمر بن عبد العزيز فما عدنا حتى تعلمنا منه.
وقال عنه الإمام الفقيه العلم الليث بن سعد، ما التمسنا علم شيء إلا وجدنا عند عمر بن عبد العزيز أصله وفرعه وما كان العلماء عنده إلا تلامذة! انظروا إلى شهادات هؤلاء الأعلام، هؤلاء الأفذاذ، وما كان العلماء عند عمر إلا تلامذة.