على الشورى ليس تنظيمًا إسلاميًّا وأنه تقليد للأنظمة الديموقراطية الغربية. واقترح جابر "بيعة" أمير للجماعة والتفويض له في قيادة أمورها، على أن يعيّن الأمير المسؤولين عن النشاطات المختلفة حسب قدراتهم وتقواهم. أما الطرف الثاني، بقيادة عبد الرحمن مدينة مليرة، فأراد المحافظة على تنظيم "الجماعة" الأفقي، وتقوية الروابط مع القوى الحية في المجتمع الأندلسي. وتشبث كل طرف برأيه، وتبادل تهم الخروج عن روح الإسلام مع الطرف الآخر. وللحفاظ على وحدة الصف، اتفقا على استفتاء أعضاء "الجماعة". وعندما أسفر الاستفتاء عن مساندة الطرف الثاني، رفض الطرف الأول قبول تصويت النساء المسلمات، مما أدى إلى الانشقاق الكامل رغم تدخل كاتبه.
كان هذا الانشقاق كارثة على "الجماعة". فقسم منها "بايع" جابر بيلار خيل أميرًا، وانتظم تحت اسم "جماعة الأندلس الإسلامية"، بينما رجع القسم الآخر إلى الاسم القديم "الجماعة الإسلامية في الأندلس" وركز تنظيمَه الأفقي بتكوين مجالس في المقاطعات ومجلس عام للجماعة، وانتخاب رئيس للمجلس ليس له من سلطة سوى تنسيق الاجتماعات وإدارتها.
ثم تلى الانشقاق، معركة بين الطرفين للسيطرة على المراكز المختلفة، مما أدى إلى تشتيت هائل في أفراد "الجماعة". فبعد أن كان عدد المنتمين إليها يقارب الخمسمائة، هجر أكثرهم الطرفين. ومن بين المراكز السبعة في "الجماعة"، تشتتت جماعات ذكوان وولبة وقرطبة وأغلقت مراكزها. أما المراكز الأربعة الباقية فانضمت غرناطة وشريش إلى جابر، وإشبيلية ومالقة إلى عبد الرحمن. ونزل أفراد المراكز الأربعة إلى نصف عددهم قبل الانشقاق. وهكذا انتهت سنة 1984 م بكارثة في تنظيم المسلمين الأندلسيين.
أما "جماعة الأندلس الإسلامية" التابعة لجابر، فقد قل عدد أعضائها مع الأيام، واضطرت إلى قفل مركز شريش. وبقيت هذه الجماعة في غرناطة فقط رغم قلة أعضائها وإقفال مركزها في غرناطة كذلك. وأما "الجماعة الإسلامية في الأندلس" فانطلقت انطلاقة جديدة بتنظيم أفضل وسياسة أوضح وخبرة أكبر، ورغبة أكيدة في الحفاظ على المسار الإسلامي والأندلسي والغيرة على استقلال "الجماعة" من أي نفوذ خارجي. ثم عملت من جديد على بناء قاعدتها بزيادة نشاطها في المجالات المختلفة للدعوة إلى الإسلام.