الشروط المشهورة عنه: «ألا يجددوا في مدائن الإسلام ولا فيما حولها كنيسة ولا صومعة ولا ديرا ولا قلاية» امتثالا لقول رسول الله - صلى الله عليه وسلم - (لا تكون قبلتان ببلد واحد) رواه أحمد وأبو داود بإسناد جيد، ولما روي عن عمر بن الخطاب رضي الله عنه قال: لا كنيسة في الإسلام.
وهذا مذهب الأئمة الأربعة في الأمصار، ومذهب جمهورهم في القرى، وما زال من يوفقه الله من ولاة أمور المسلمين ينفذ ذلك ويعمل به مثل عمر بن عبد العزيز الذي اتفق المسلمون على أنه إمام هدى؛ فروى الإمام أحمد عنه أنه كتب إلى نائبه عن اليمن أن يهدم الكنائس التي في أمصار المسلمين؛ فهدمها بصنعاء وغيرها.
وروى الإمام أحمد عن الحسن البصري أنه قال: من السنة أن تهدم الكنائس التي في الأمصار القديمة والحديثة. وكذلك هارون الرشيد في خلافته أمر بهدم ما كان في سواد بغداد، وكذلك المتوكل لما ألزم أهل الكتاب بشروط عمر استفتى أهل وقته في هدم الكنائس والبيع فأجابوه فبعث بأجوبتهم إلى الإمام أحمد فأجابه بهدم كنائس سواد العراق وذكر الآثار عن الصحابة والتابعين، فمما ذكره ما روي عن ابن عباس رضي الله عنهما أنه قال: أيما مصر مصرته العرب يعني المسلمين فليس للعجم يعني أهل الذمة، أن يبنوا فيه كنيسة، ولا يضربوا فيه ناقوسا، ولا يشربوا فيه خمرا، وأيما مصر مصرته العجم ففتحه الله على العرب فإن للعجم ما في عهدهم، وعلى العرب أن يوفوا بعهدهم، ولا يكلفوهم فوق طاقتهم (?) .
وكل مصر مصره العرب فليس للعجم أن يبنوا فيه بيعة.. ولهم رم