كان المعهد العلمي السعودي ثاني مؤسسة تعليمية في المدينة بعد المرحلة الابتدائية، أسس عام 1369هـ، وكان ملحقاً مع المدرسة الناصرية في باب المجيدي، وفي عام 1371هـ نُقل إلى مبناه في شارع السحيمي بجوار الفيروزية، ثم إلى مبنى مستأجر في الجنان بمنطقة باب المجيدي وذلك في عام 1378هـ وأخيراً نُقل إلى مبنى حكومي في شارع سيد الشهداء عام 1380هـ حيث جرى تصفيته في عام 1380هـ.

وقد أسس على غرار المعهد العلمي السعودي الذي أسس في مستهل عام 1345هـ في مكة المكرمة، وكان الهدف من تأسيسه هو رغبة الدولة في إعداد معلمين متخصصين للتدريس في المدارس الابتدائية التي تزايد عددها في المدن والقرى، وتزويد الدوائر الحكومية بالموظفين المؤهلين.

وكان يقبل بهذا المعهد كل من حصل على شهادة إتمام الدراسة الابتدائية أو ما يعادلها. وتنقسم الدراسة فيه إلى مرحلتين:

1ـ المرحلة الأولى: وتشمل ثلاث سنوات، يدرس الطالب خلالها ألواناً من مواد الثقافة الدينية واللغة العربية والمواد الاجتماعية والرياضيات، وفي نهاية السنة الثالثة يمنح الطالب الناجح شهادة القسم التجهيزي، وسميت فيما بعد (شهادة الكفاءة للمعاهد العلمية) .

2ـ المرحلة الثانية: وتشمل السنتين الأخيرتين من المعهد، وتسمى قسم المعلمين الثانوي. يدرس فيها الطالب بجانب المواد المذكورة، التربية وعلم النفس، ومواد فنية أخرى، ويمنح الطالب (شهادة إتمام الدراسة الثانوية للمعاهد العلمية) . وكانت الدراسة في هذا المعهد مجانية، وتصرف الكتب والأدوات المدرسية للطلبة مجاناً، وعلاوة على ذلك فقد كان الطالب يمنح إعانة شهرية قدرها أربعون ريالاً للثلاث سنوات الأولى، وستون ريالاً للسنتين الأخيرتين. وأول دفعة تخرجت فيه عام 1374هـ وقد تولى إدارته منذ تأسيسه الشيخ محمد عبد الكريم السناري واستمر مديراً له حتى تصفيته عام 1381هـ، وكان يشمل أيضاً معهد المعلمين.