بعد حجة الوداع جعل ابنه شهراً على صنعاء، وقسَّم اليمن إلى أقسام فكان عامر بن شهر على همدان، والطاهر بن أبي هالة على عك، وأبو موسى الأشعري على مأرب ويعلى بن أمية على الجند. وقد تغير الولاة على اليمن مراراً حيث تشير المصادر التأريخية إلى أن خالد بن سعيد بن العاص تولى صنعاء ثم تولاها المهاجر بن أبى أمية، وأن معاذ بن جبل تولى الجند، وأن أبا موسى ولي زبيد ورمع والسواحل، كما تولى فروة بن مسيك المرادي على مراد وزبيد ومذحج، وهذه التغيرات ربما حدثت في عهد النبوة أو خلافة أبي بكر.

ويلاحظ أن معظم الولاة كانوا من أهل اليمن، وهو إجراء يراعي التركيبة السكانية وقوة الكيانات القبلية في تلك المرحلة، وكان الاهتمام بنشر الإسلام وتعميق مفاهيمه بين السكان أهم أهداف الدولة، وقد عينت معاذ بن جبل معلماً يتنقل في اليمن وحضرموت (?). وكان سليط بن قيس والياً على اليمامة (?). "وكانت البحرين مكونة من قسمين إداريين هما هجر والخط التي عند القطيف" فكان العلاء بن الحضرمي والياً على هجر، وأبان بن سعيد والياً على الخط (?). وأما عمان فكان عليها جيفر وعباد ابنا الجلندي، وإن أرسل إليها عمرو بن العاص ربما بالتنسيق معهما.

وقد استمرت ولاية العلاء على البحرين حتى سنة 15 هـ حيث عين عمر بن الخطاب عثمان بن أبي العاص الثقفي على البحرين وعمان، فكان يقيم بعمان ويجعل