تولى أبو بكر الخلافة، وأول خطبة خطبها على المنبر بكى وأبكى الناس، والبيعة على المسلمين، فردوا بيعتهم في عنق أبي بكر، فأخذها شاردة واردة.
كان أزهد الناس، وأخشاهم وأورعهم، ذكر أهل السير: أن عمر كان يتفقد أبا بكر بعد كل صلاة فجر، فإذا هو يخرج من المسجد إلى ضاحية من ضواحي المدينة، فذهب عمر وراءه يوماً من الأيام، فدخل أبو بكر خيمة، ومكث فيها ساعة ثم خرج، فلما خرج؛ دخل عمر بعده إلى الخيمة، فوجد عجوزاً وأطفالاً، قال للعجوز: يا أمة الله! من أنتِ؟ قالت: أنا عجوز حسيرة كبيرة عمياء، وهؤلاء الأطفال مات أبوهم من سنوات، قال: ومن هذا الشيخ الذي يدخل إليكم؟ قالت: لا أعرفه -لا تعرف أبا بكر، ولكن الله يعرف أبا بكر - قال: ماذا يفعل؟ قالت: يدخل عندنا، فيكنس بيتنا، ويحلب شياهنا، ويصنع لنا طعامنا، ثم يخرج، فضرب عمر بيده على رأسه وبكى وقال: [[يا أبا بكر! أتعبت الخلفاء بعدك]].
من يفعل مثل هذا الفعل؟! من يترصد مثل هذا الترصد؟! من يخدم مثل هذه الخدمة؟! إنه الصديق الأكبر، ولذلك تولى عمر فأخذ درساً من أبي بكر لا ينساه [[ولما مات أبو بكر، قال لأهله: خذوا هذه البغلة، وهذه الثياب، والله ما لبست من ثياب المسلمين، وما أخذتُ من طعامهم، واذهبوا بهذه البغلة والثياب إلى عمر بن الخطاب، وقولوا: يا عمر! هذه بقية ميراث أبي بكر، فاتق الله يا عمر في أموال الأمة، لا يصرعنك الله مصرعاً كمصرعي]] فلما تولى عمر أصابه عام وجاع مع المسلمين، فبقي جائعاً شاحباً حزيناً محتاجاً، يقول على المنبر يوم الجمعة وبطنه يُقَرْقِر من الجوع: [[قَرْقِرْ أو لا تُقَرْقِر والله لا تشبع حتى يشبع أطفال المسلمين]].