ولما دخل الإسلام جزيرة العرب ألبس اللغة الثوب الجديد، ثم بعد ذلك فتح الله الأمصار على يد المهاجرين والأنصار الذين رفعهم الله بتمسكهم بكتاب الله وسنة النبي صلى الله عليه وسلم، فحدث الجهاد مع الأعاجم، ثم حصل السبي للعبيد والإماء، فلما دخل الأعاجم بلاد الإسلام أصبحت اللغة العربية يحدث فيها الغلط واللحن، فلما ظهر اللحن ابتدأ جهابذة اللغة والسنة والكتاب، وقالوا: لا بد من حفظ كتاب ربنا وسنة نبينا، ولا يكون ذلك إلا بالضوابط والقواعد النحوية؛ حتى لا يحدث اللحن في ديننا وفي كتاب ربنا، وهذا الذي أهال عمر بن الخطاب عندما جاءه أعرابي يطلب منه أن يقرأ عليه القرآن، فأخذه رجل ليعلمه القرآن فأضاعه، فقرأ في سورة براءة قوله تعالى: {وَأَذَانٌ مِنَ اللَّهِ وَرَسُولِهِ إِلَى النَّاسِ يَوْمَ الْحَجِّ الأَكْبَرِ أَنَّ اللَّهَ بَرِيءٌ مِنَ الْمُشْرِكِينَ وَرَسُولُهُ} [التوبة:3] بخفض لرسوله) فقال الأعرابي: أبرأ ممن برأ منه الله جل في علاه، أي: يبرأ من رسول الله صلى الله عليه وسلم وهذه التي تهدم الدين بأسره، فلما قال الأعرابي ذلك وسمعه عمر قال له: لا تقرأ هكذا، فقرأ عليه ((أَنَّ اللَّهَ بَرِيءٌ مِنَ الْمُشْرِكِينَ وَرَسُولُهُ)) [التوبة:3] فقال: أبرأ ممن برأ منه الله ورسوله، ففهم الأعرابي لما شكل له التشكيل الصحيح فهماً صحيحاً.
من هنا قال العلماء: إن عمر بن الخطاب أمر أبا الأسود الدؤلي أن يبدأ في وضع قواعد النحو والصرف.
وبعض العلماء قال بأن علي بن أبي طالب هو أول من أشار على أبي الأسود أن يضع القواعد في اللغة، ولا مشاحة في ذلك، فاللغة قد وضعت لها القواعد سواء بأمر عمر أو علي أو بسبب أبي الأسود الدؤلي.