أمر الرسول صلى الله عليه وسلم أصحابه بالتجهّز للغزو، ولم يعلمهم بوجهته تكتماً لأمر الفتح، واستنفر القبائل التي حول المدينة، وقد بلغ عدد جيش المسلمين عشرة آلاف مقاتل، ولم يتخلف من المهاجرين والأنصار أحد.
وقد خرج النبي صلى الله عليه وسلم من المدينة في رمضان سنة ثمان للهجرة، واستخلف عليها أبا رهم كلثوم بن حصين الغفاري، وفي الطريق أسلم عدد من زعماء قريش منهم أبو سفيان بن الحارث - ابن عم رسول الله صلى الله عليه وسلم - وعبد الله بن أبي أمية- أخو أم سلمة أم المؤمنين رضي الله عنها - وكان العباس بن عبد المطلب قد أسلم قبل فتح خيبر ولكنه لم يهاجر إلى المدينة.
وفي مر الظهران عسكر المسلمون، وخفيت أخبارهم عن قريش حتى ظنت قريش أن هذا الجيش جيش خزاعة، وفي هذه الأثناء صحب العباس - عم الرسول صلى الله عليه وسلم - أبا سفيان ليقابل الرسول صلى الله عليه وسلم فدعاه الرسول صلى الله عليه وسلم إلى الإسلام فتردد أبو سفيان، وعاد في اليوم الثاني فأسلم، واستعرض أبو سفيان جيش المسلمين وقوتهم ثم قال للعباس: لقد أصبح ملك بن أخيك اليوم عظيماً. فقال العباس: ويحك يا أبا سفيان إنها النبوة، قال: فنِعمَ ذا. ومضى أبو سفيان إلى مكة فأخبر قريشاً بقوة المسلمين ونهاهم عن المقاومة.