وأما ابتداء دخوله في ملة الإسلام، فقال الشيخ نصر المقدسي: من أئمة أصحابنا في كتابه "الحجة على تارك الحجة أنبأني أبو محمد عبد الله بن الوليد بن سعد الأنصاري قال سمعت أبا محمد عبد الله بن أبي زيد الفقيه المالكي بالقيروان يقول: رحم الله بني أمية لم يكن فيهم قط خليفة ابتدع في الإسلام بدعة، وكان أكثر عمالهم وأصحاب ولايتهم العرب، فلما زالت الخلافة عنهم. ودارت إلى بني العباس قامت دولتهم بالفرس وكانت الرياسة فيهم، وفي قلوب أكثر الرؤساء منهم الكفار والبغض للعرب ودولة الإسلام. فأحدثوا في الإسلام الحوادث التي تؤذن بهلاك الإسلام ولولا أن الله تبارك وتعالى وعد نبيه -صلى الله عليه وسلم -أن ملته وأهلها هم الظاهرون إلى يوم القيامة لأبطلوا الإسلام ولكنهم قد ثلموه، وعوروا أركانه، والله منجز وعده إن شاء الله.
فأول الحوادث التي أحدثوها إخراج كتب اليونانية إلى أرض الإسلام فترجمت بالعربية وشاعت في أيدي المسلمين وسبب خروجها من أرض الروم إلى بلاد الإسلام يحيى بن خالد بن يرمك وذلك أن كتب اليونانية كانت ببلد الروم، وكان ملك الروم خاف على الروم إن نظروا في كتب