ولم يكن عمر يقنع بأن يهتم بحسن اختيار عماله بل كان يبذل أقصى الجهد لمتابعتهم بعد أن يتولوا أعمالهم؛ ليطمئن على حسن سيرتهم ومخافة أن تنحرف بهم نفوسهم، وكان شعاره لهم "خير لي أن أعزل كل يوم واليًا من أبقي ظالمًا ساعة نهار" وقال: "أيما عامل لي ظلم أحدًا فبلغني مظلمته فلم أغيرها فأنا ظلمته" وقال يومًا لمن حوله: أرأيتم إذا استعملت عليكم خير من أعلم ثم أمرته بالعدل أكنت قضيت ما عليّ؟ فقالوا: نعم، قال: لا، حتى أنظر في عمله، أعَمِل بما أمرته أم لا، وقال: هان شيء أصلح به قومًا أن أبدلهم أميرًا مكان أمير.
وكان عمر إذا استعمل عاملًا أحصى ماله وقد قاسم غير واحد منهم ماله إذا عزله، منهم سعد بن أبي العاص وأبي هريرة ولاته في العراق والبحرين، وكان يأمر عماله أن يدخلوا نهارًا ولا يدخلوا ليلًا كي لا يحجبوا شيئًا من الأموال كما ذكرنا، وأنشأ سعد بن أبي وقاص لسكناه دارًا في الكوفة وكانت الأسواق قريبة من داره، وكانت الأصوات المرتفعة بالسوق تؤذي سعدًا فوضع بابًا يحجز عنه أصوات الناس بالسوق، وبلغ ذلك أسماع عمر عن دار سعد وبابه وأن الناس يسمونه قصر سعد، فدعا محمد بن مسلمة وأرسله إلى الكوفة وقال له: اعمد إلى القصر يعني: اذهب إلى القصر حتى تحرق بابه، ثم ارجع عودك على بدئك يعني: ارجع فورًا، فخرج حتى قدم الكوفة فاشترى حطبًا ثم أتى به القصر فأحرق الباب أي: الباب الذي كان يحجب الرعية عن الأمير أو عن الوالي.
وكان يقيم بعض العقوبات العلنية للوالي المنحرف، فقد بلغ عمر أن والي حمص عبد الله بن قرط قد اتخذ عليّة احتجب فيها عن الناس -مكان مرتفع- فأرسل إليه بريدًا -أي: رسولًا- وأمره أن يجمع حطبًا ويحرق بابها، فلما قدم البريد حمص جمع الحطب وأحرق باب العلية، فدخل الناس على الوالي وذكروا له الخبر فقال لهم: دعوه فإنه رسول أمير المؤمنين، ثم دخل عليه فناوله