لجمع كيان العرب، وفي سنة 1925م استدعاه الملك عبد العزيز آل سعود إلى مكة المكرمة، وعهد إليه بمديرية معارف الحجاز، فأسس خلال سنة ونصف ما يقرب من ثلاثين مدرسة في أنحاء مختلفة من الحجاز، وهناك أصيب بالزحار وأشرف على الهلاك، فسافر إلى فلسطين للتداوي، وشفي من مرضه بعد علاج طويل دام عشر سنوات.

وفي سنة 1356هـ - 1937م عاد إلى دمشق بعد صدور العفو العام، ورأى مدرسته قد تضاءل شأنها، وقلّ طلابها؛ إذ مالوا إلى مدارس الحكومة التي قررت وزارة المعارف وقتئذ ألا تقبل سوى شهادتها لدخول الجامعة، فأحب أن يخدم البلاد عن طريق نهضة العلماء بعد أن فشلت مساعيه مع ساسة العرب، فأسس بطلب من أهل العلم (جمعية العلماء) التي نالت تصريحاً رسمياً من وزارة الداخلية في 5 رمضان 1356هـ - 8 تشرين الثاني 1937م، ومهمتها دفع ما تعرض له الإسلام من إلحاد وإفساد ومقاومة، وكانت تحت رئاسته.

بلغ عدد مؤسسي الجمعية واحداً وعشرين عضواً عهدوا لسبعة عشر منهم القيام بأعباء المجلس الإداري، وهو منهم، وعين رئيساً لمجلس الإدارة.

ووُضع للجمعية دستور بيَّن غايتها، وأموالها، ونظامها الداخلي المفصّل، ونصّ الدستور على أن غاية الجمعية الاهتمام بشؤون المسلمين ومؤسساتهم الدينية، ورفع مستوى العلماء والمتعلمين، وجمع كلمتهم، والدعوة إلى الله ... -تعالى- بالحكمة والموعظة الحسنة، وأن لا دخل للجمعية بالسياسة، ووضّح الدستور كذلك عمل الأعضاء، وأعمال مجلس الإدارة، وسوى ذلك.

كان من أبرز أعمال الجمعية إنشاء المعهد العلمي الديني بدمشق، واختير له الأساتذة الأكفاء، ووضع له برنامج يجمع بين الثقافتين الدينية والعصرية.

ولقي المعهد تشجيعاً عظيماً، فتبرع أساتذة مختصون للتدريس فيه، وتبرع