يدعوهم فيها إلى الإسلام فأسلم بعضهم (?)، وأما أليون قيصر الروم فقد بعث إليه عمر وفداً برئاسة عبد الأعلى بن أبي عمرة لدعوته إلى الإسلام (?).
قام عمر بتشجيع غير المسلمين على الدخول في الإسلام عن طريق إعطائهم الأموال لتألفة قلوبهم، وذلك إتباعاً لسنة رسول الله صلى الله عليه وسلم، فيذكر ابن سعد عن عيس بن أبي عطاء رجل من أهل الشام كان على ديوان أهل المدينة عن عمر بن عبد العزيز أنه ربما أعطى المال من يستألف على الإسلام (?). كذلك ذكر عن عمر بن عبد العزيز أنه أعطى بطريقاً ألف دينار إستألفه على الإسلام (?).
لقد كان لإنصافه لأهل الذمة الذين أسلموا بوضع الجزية عنهم أثر واضح في زيادة إقبال الذميين على الدخول في الإسلام برغم كل ما ترتب على ذلك بالنسبة لبيت المال مثل ما فعل مع واليه على خراسان الجراح بن عبد الله الحكمي حيث أرسل إليه يقول: انظر من صلى قبلك إلى القبلة، فضع عنه الجزية (?)، ثم أرسل بدعوة أهل الذمة إلى الدخول في الإسلام، فمثلاً أرسل إلى عامله الجراح بن عبد الله الحكمي يأمره بدعوة أهل الجزية إلى الدخول في الإسلام فإن أسلموا قبل إسلامهم، وأن يضع الجزية عنهم، ثم كان لهم ما للمسلمين وعليهم ما على المسلمين (?). وقد ترتب على هذه الدعوة دخول عشرات الألوف من الناس في الإسلام طائعين ففي خراسان أسلم نحو من أربعة آلاف ذمي على يد واليه الجراح بن عبد الله (?)، أما في المغرب فقد أسلم عامة البربر على يد والي عمر على المغرب إسماعيل بن عبد الله بن أبي المهاجر (?).