وكتب عمر إلى أهل لدّ ومن دخل معهم من أهل فلسطين أجمعين مثل شروط أهل إيلياء. واختلف القوم في صلح بيت المقدس فقالوا صالح اليهود وقالوا النصارى، والمجمع عليه أنه صالح النصارى. وفي كتاب عمر صراحة في ذلك. واشترط فيه إخراج الروم الذين ليسوا من أبناء القطر الأصليين. وأتاه جبلة بن الأيهم رأس بني غسان وكان هذا أسلم ثم ارتد وقاتل المسلمين مع الروم فقال له: تأخذ مني الصدقة كما تصنع العرب قال: بل الجزية وإلا فالحق بمن هو على دينك. فخرج
في ثلاثين ألفاً من قومه حتى لحق بأرض الروم، وندم عمر على ما كان منه في أمره.
كتب عمر إلى أبي عبيدة وكان كتب اليه في أمر الشام: أما بعد فابدءوا بدمشق وانهدوا لها فإنها حصن الشام وبيت ملكهم. وبعد أن تم للمسلمين ما أرادوا من هزيمة الروم على اليرموك جمعت الروم جمعاً عظيماً وأمدهم هرقل بمدد فلقيهم المسلمون بمرج الصفّر بين دمشق والجولان وهم متوجهون إلى دمشق، وذلك لهلال المحرم سنة 10 فاقتتلوا قتالاً شديداً وجرح من المسلمين زهاء أربعة آلاف، وولى الروم مفلولين لا يلوون على شيء حتى أتوا دمشق وبيت المقدس. ولما فرغ المسلمون من قتال من اجتمع لهم بالمرح رجعوا إلى مدينة دمشق فأخذوا الغوطة وكنائسها عنوة، ونازلوا دمشق وحاصروها من الباب الشرقي وباب توما وباب الفراديس وباب الجابية والباب الصغير وفتح نصفها عنوة والنصف الآخر صلحاً، فأجراها عمر كلها صلحاً. وكتب أهل دمشق كتاباً لأبي عبيدة هو هذا:
بسم الله الرحمن الرحيم: هذا كتاب لأبي عبيدة بن الجراح ممن أقام بدمشق وأرضها وأرض الشام من الأعاجم، إنك حين قدمت بلادنا سألناك الأمان على أنفسنا وأهل ملتنا، وإنا اشترطنا لك أن لا نحدث في مدينة دمشق ولا فيما حولها كنيسة ولا ديراً ولا قلاية ولا صومعة