بعد أن عاد أبو بكر من الحج وجه الجنود إلى الشام تحت قيادة خالد بن سعيد بن العاص، وكان أول لواء عقده إلى الشام، وهو من الذين أسلموا قديما وهاجر إلى الحبشة إلا أن أبا بكر عزله قبل أن يسير وكان سبب عزله أنه تأخر عن بيعة أبي بكر شهرين ولقي علي بن أبي طالب وعثمان بن عفان فقال يا أبا الحسن: يا بني عبد مناف أغلبتم عليها؟ فقال علي: أمغالبة ترى أم خلافة؟.
فأما أبو بكر فلم يحقدها عليه وأما عمر فاضطغنها2 عليه فلما ولاه أبو بكر لم يزل به عمر حتى عزله عن الإمارة وجعله رداء للمسلمين بتيماء3 وأمره أن لا يفارقها إلا بأمره وأن يدعو من حوله من العرب إلا من ارتد وأن لا يقاتل من قاتله فاجتمع إليه جموع كثيرة من الروم وعلى ذلك أمره أبو بكر بالإقدام بحيث لا يؤتى من خلفه فتقدم شمالا نحو البحر الميت فسار إليه بطريق الروم، ويدعى باهان ولما وجد أنه تقدم كثيرا كتب إلى أبي بكر يستمده.
وكان قد قدم إلى أبي بكر بالمدينة جيوش المسلمين من اليمن بعد أن هزموا المرتدين وكانوا على استعداد للحرب في جهات أخرى فأرسل أبو بكر عكرمة بن أبي جهل والوليد بن عقبة لإمداد خالد في الشمال.
أسرع خالد بن سعيد في أوائل فصل الربيع للغزو ناسيا ما أمره به أبو بكر من عدم الزحف فوقع في شرك4 باهان جهة دمشق وكان قد وصل إلى مرج الصفر5 شرقي بحيرة طبرية فأطبق عليه العدو من الخلف ومنعه من التقهقر وقتل ابنه سعيد في المعركة وفر خالد بفلول جيشه إلى المدينة وبقي عكرمة رداء6 للجيش بدل خالد فرد عنهم باهان وجنوده أن يطلبوه وأقام من الشام على قرب.
ثم أمر أبو بكر يزيد بن أبي سفيان على جيش عظيم هو جمهور من انتدب إليه فيهم سهيل بن عمرو في أمثاله من أهل مكة وشيعه ماشيا وأوصاه وغيره من الأمراء.
وصية أبي بكر ليزيد بن أبي سفيان7
كان مما قاله أبو بكر ليزيد:
إني وليتك لأبلوك وأجربك وأخرجك فإن أحسنت رددتك إلى عملك وزدتك وإن أسأت