إلى حيز الوجود, فاقترنت نشأة الديوان بنشأة التجنيد النظامي الرسمي, وحُددت للجنود النظاميين عطاياهم, ومرتباتهم من بيت مال المسلمين.

ومن مظاهر التنظيم التي أضفاها عمر على الجيش انه أخذ أصول طائفة منها, عن الرسول -صلى الله عليه وسلم- وأدخل عليها بعض التعديلات, واقتبس طائفة أخرى عن الفرس, والروم؛ لتلائم حاجات الجيش الإسلامي, فقد استعمل عمر رتبي النقيب, والعريف, فالعرافة في كتاب عمر هذا تناولت الناس, فكأنهم المدنيون, في حين تناول التأمير, والتعبئة الجندَ, وهم العسكريون, وهذه أول ميزة من ميزات التنظيم العسكري عند عمر, فالعريف في عهد عمر بات ينوب عن قبيلته, على حين كان العريف في الجند ينوب عن عشرة من الأجناد, وتشير المصادر التاريخية الموثوقة أن الجيش الإسلامي في عهد عمر قد عرف رتبة الخليفة على خمسين جنديًّا, والقائد على مائة, وأمير الكردوس على ألف, وأمير الجيش على عشرة آلاف أو تزيد, وقد أنشأ عمر في المدينة معسكرًا للتدريب قبل الإمداد, وكان يشرف بنفسه على تدريب الجند, ولا سيما الفرسان في مكان اسمه الحم القريب من المدينة, فيشهد -إن صح التعبير- عرضًا عسكريًّا, أو مناورات حربية, وكان يصحب معه في تلك التمرينات اليومية نعاة الإبل, أي الخبراء بأدوائها, وأمراضها؛ ليشرفوا على بيطرتها.

وقد عين على خيل الجيش بالكوفة سلمان بن ربيعة الباهلي, فسماه الناس سلمان الخيل؛ لخدمة أمرها, وخبرته بها, وأقام عمر الحصون, والمعسكرات