ظل يوسف بن تاشفين رحمه الله في الحكم إلى سنة 500 من الهجرة، مات في نفس السنة وهو يبلغ من العمر (100) عام، واستخلف على الحكم علي بن يوسف بن تاشفين رحمه الله على دولة المرابطين، وحاول المرابطون تحرير معظم الأراضي الأندلسية التي أخذت من المسلمين على مدار السنوات السابقة، فحاربوا في أكثر من جبهة، فحرروا سرقسطة وضموها إلى أملاك المسلمين، وهي في الشمال الشرقي من بلاد الأندلس، واقتربت حدود دولة المرابطين من فرنسا، وحاول المسلمون كثيراً تحرير طليطلة، لكنهم فشلوا في هذا الأمر؛ لأن طليطلة من أشد مدن الأندلس حصانة على الإطلاق، وإن كانوا قد أخذوا معظم القرى والمدن حول طليطلة.
وفي سنة (501) من الهجرة، بعد موت يوسف بن تاشفين رحمه الله بعام واحد دارت موقعة ضخمة جداً بين المسلمين والنصارى وهي موقعة أقليش، تولى فيها القيادة على المسلمين علي بن يوسف بن تاشفين، وتولى فيها قيادة النصارى ابن ألفونسو السادس، وانتصر المسلمون فيها انتصاراً ساحقاً، وقتل من الصلبيين في هذه الموقعة ثلاثة وعشرون ألف صليبي، واستمرت الانتصارات للمسلمين.
وفي سنة (509) من الهجرة فتح المسلمون من جديد جزر البليار التي كانت قد سقطت في عهد ملوك الطوائف، وأصبح المسلمون يسيطرون على جزء كبير جداً من أراضي الأندلس.