كلما عراها الضعف والانحلال، يزيد خصوم الأمويين شدة وقوة. ولما بويع بالخلافة لأبي العباس بالكوفة كانت جيوش خراسان تطارد جيوش الأمويين مطاردة، وينتثر سلك الملك على صورة مستغربة. ولم يكد العراق يدخل في طاعة العباسيين، حتى ولى أبو العباس عمه عبد الله بن علي الشام فسار من حران إلى منبج وقد سوّد أهلها، وبعث إليه أهل قنسرين ببيعتهم ثم سار حتى نزل حمص ثم سار إلى بعلبك ثم جاء عين جر، وكان مروان بن محمد آخر الأمويين لما انهزم على الزاب أتى من حرّان إلى حمص بأهله، فجاء عبد الله بن علي إلى حمص فرحل مروان عنها إلى دمشق، فتبعه فهرب إلى فلسطين في بقايا جيشه، وهناك جيش جيشاً آخر، وكان اجتمع للأمويين في دمشق جيش قدّر بخمسين ألف مقاتل. وكان جيش عبد الله بن علي لا يمر ببلد إلا ويخرج أهلها مسوّدين أي حاملين شعار العباسيين وهو السواد يبايعونهم عن رضىً، هذا وجيشه أقل من ثلث جيش مروان المنهزم وربما كان الربع. فلما جاء عبد الله بن علي دمشق من ناحية المزّة نزل بها يومين، ثم جاءه أخوه صالح بن علي في ثمانية آلاف مدداً من السفاح على طريق السماوة، فنزل صالح بمرج عذراء ثم نزل على باب الجابية، ونزل عبد الله بن علي على الباب الشرقي، ونزل أبو عون على باب كيسان، وبسام على الباب الصغير، وحميد بن قحطبة على باب توماء، وعبد الصمد ويحيى ابن صفوان والعباس بن يزيد على باب الفراديس، فحاصروها أياماً ثم افتتحها يوم الأربعاء لعشر خلون من رمضان 132، أي بعد ستة أشهر من مبايعة أبي العباس السفاح بالخلافة في مدينة الكوفة.

أباح الفاتح دمشق ثلاث ساعات، وقيل: أنهبها ثلاثة أيام، ووضع السيف في أهلها، ولم يزل جماعته يحزون الرؤوس في الطرق والمنازل، ويأخذون الأموال،

حتى جاء الظهر فأمر برفع السيف، وقتل والي المدينة فيمن قتل من الأمراء والعلماء في المسجد الجامع. وممن صلب عبد الله بن عبد الجبار. ودخلت أباعر العباسيين إلى صحن الجامع الأموي وظل إصطبلاً لدوابهم وجمالهم سبعين يوماً، وقتل يومئذ على رواية