توفي الرسول عليه السلام فارتدت بعض قبائل العرب فقاتلهم أبو بكر الصديق حتى جمع شملهم بالإسلام فلما أمن من ناحيتهم كتب إلى أهل مكة والطائف واليمن وجميع العرب بنجد والحجاز يستنفرهم للجهاد في الشام، ويرغبهم فيه وفي غنائم الروم، فسارع الناس إليه بين محتسب وطامع فعقد ثلاثة ألوية لثلاثة رجال، وهم يزيد بن أبي سفيان وشرحبيل ابن حَسنَة وعمرو ابن العاص. وكان أبو بكر أمر عمرو بن العاص أن يسلك طريق أيلة عامداً لفلسطين. وأمر يزيد وشرحبيل أن يسلكا طريق تبوك، فقصد الجيش فلسطين في الجنوب وقسم منه قلب الشام.
وكان العقد لكل أمير في بدء الأمر على ثلاثة آلاف رجل فلم يزل أبو بكر يتبعهم بالإمداد حتى صار مع كل أمير سبعة آلاف وخمسمائة ثم تتام جمعهم بعد ذلك أربعة وعشرين ألفاً. وكان جيش الروم أربعين ومائتي ألف منهم المسلسل للموت والمربوط بالعمائم والفرسان والرجالة، جمعهم هرقل من أهل الشام والجزيرة وإرمينية، وولى عليهم رجلاً من خاصته وبعث على مقدمته جبلة بن الأيهم الغساني في مستعربة الشام. وأنجد أبو بكر جيوش الشام بخالد بن الوليد من العراق في تسعة وقيل في عشرة آلاف فصار المسلمون ستة وثلاثون ألفاً وفي رواية ستة وأربعين ألفاً. ويقول سيديليو: إن جيش العرب كان على أكثر تعديل مؤلفا من عشرين ألفاً وجيش الروم من ستين ألفاً. قال سعيد بن عبد العزيز: إن المسلمين يوم اليرموك كانوا أربعة وعشرين ألفاً والروم عشرين ألفاً ومائتي ألف عليهم ماهان وصقلان سقلار.
ومهما كان من تقدير الجيشين فالعرب كانوا أقل من الروم. وتقدير مؤرخي العرب للجيش الإسلامي بستة وثلاثين ألفاً ولجيش الروم بزهاء مائتي ألف أقرب إلى الصحة، وهو تقدير معقول لا سيما إذا عرف أنه كان سكان الشام إذ ذاك نحو سبعة ملايين، وأن العرب على بعد الحجاز عن الشام لا يستطيعون أن يجهزوا أكثر من ذلك لأنهم كانوا يحاربون في جهات أخرى.