أما تقشفه فإنه تعلمه في مدرسة الرسول عليه الصلاة والسلام، دخل على الرسول صلى الله عليه وسلم في مشربة، والرسول صلى الله عليه وسلم نائم على حصير قد أثر في جنبه، وما في المشربة -الغرفة- إلا شيء من شعير معلق، فأتى عمر ينظر إلى الرسول صلى الله عليه وسلم فوجد الحصير قد أثر في جنبه فدمعت عينا عمر، فقال له صلى الله عليه وسلم: مالك يا ابن الخطاب؟ قال: يا رسول الله! ملوك فارس والروم في عيش هنيء وهم أعداء الله، وأنت حبيب الله في هذا العيش، قال: أفي شك أنت يا ابن الخطاب؟ أما ترضى أن تكون لنا الآخرة ولهم الدنيا؟ قال: بلى.
فأخذ من ذلك درساً لا ينساه.
يقول جابر بن عبد الله رضي الله عنهما: اشتريت لحماً من السوق وذهبت به إلى أهلي، وإذا بـ عمر مقبلاً فخبأت اللحم تحت إبطي -حتى الصحابة يخافون منه، لأنه يحاسب الأمراء، ويحاسب الناس؛ ممن اشتريت؟ وماذا شريت؟ وماذا تريد؟ - فلقي جابراً فأمسكه فقال: ما هذا يا جابر؟ قال: لحم اشتهيته فاشتريته، قال: أكلما اشتهيت اشتريت! والله إني أعلمكم بما آكل ولكني أخشى أن أعرض على الله يوم القيامة فيقال لي: {أَذْهَبْتُمْ طَيِّبَاتِكُمْ فِي حَيَاتِكُمُ الدُّنْيَا وَاسْتَمْتَعْتُمْ بِهَا} [الاحقاف:20].
ودخل عليه الحارث بن زياد أحد الأمراء، وقد كان يوم عرفة يحاسب أمراءه على الأقاليم، أمير العراق، أمير الشام أمير مصر أمير اليمن، وكان يأتي بالرعية ويقول: تكلموا عن أميركم وواليكم -في حوار مفتوح- فأتى إليه الحارث بن زياد في المدينة فرأى عمر يأكل خبز الشعير بالزيت، فقال: يا أمير المؤمنين! إنك أحق الناس بالعيش الهنيء والمركب الوطيء قال: ثكلتك أمك، والله لا تتولى لي ولاية، ظننت أنك تعينني على طريق الآخرة فإذا أنت تهوشني أو تهرشني على الدنيا، فعزله.
وفي المدينة وهو جالس مع الصحابة رضوان الله عليهم من بقية العشرة المبشرين بالجنة، وعلماء الصحابة وهم ملء المسجد، وإذا برجل مصري يدخل ويبكي، فقال عمر: مالك؟ قال: ابن أميرك على مصر ضربني، قال: ولم؟ قال: سابقته على فرس فسبقته فقال: أتسبقني وأنا ابن الأكرمين، فضربني.
قال عمر: والله لأقتصن لك منه، ثم قال: عليَّ بـ عمرو بن العاص فأرسل إليه وحبس المصري القبطي عنده، فوصل عمرو بن العاص وابنه محمد فجمع عمر الصحابة كلهم ثم أخذ درته، وقال للصحابة: والله لا يحول بيني وبين عمرو بن العاص أحد، هذا الوالد، أما حساب الولد فسوف يأتي فيما بعد، فقام يضربه فيقول عمرو بن العاص داهية العرب: الله الله في رأسي، فقال: [[متى استعبدتم الناس وقد ولدتهم أمهاتهم أحراراً]] انظر إلى هذه الكلمة التي تسجل من نور، ثم قال للمصري: خذ العصا واضرب ابن الأكرمين، فأخذ يضربه فيصيح قال: اسكت فإنك أنت ابن الأكرمين -يستهزئ به- فلذلك علَّم رضي الله عنه بسيرته وبكلامه العدل.