ولد يوم 15 من صفر سنة 499هـ وولاه والده على صفاقس وتولى الحكم بعد وفاة والده.
وبعد عامين من حكمه جهز علي أسطولاً في البحر وأرسله إلى مدينة قابس وضرب عليها حصارًا, وذكر ابن الأثير السبب في ذلك فقال: «وسبب ذلك أن صاحبها رافع بن مكن الدهماني أنشأ مركبًا بساحلها ليحمل التجار في البحر, وكان ذلك آخر أيام الأمير يحيى, فلم ينكر يحيى ذلك, جريًا على عادته في المداراة, فلما ولي علي الأمر, بعد أبيه, أنف من ذلك وقال: لا يكون لأحد من أهل إفريقية أن يناوأني في إجراء المراكب في البحر بالتجار, فلما خاف رافع أن يمنعه علي التجأ إلى اللعين رجار أن ينصره ويعينه على إجراء مركبه في البحر, وأنفذ في الحال أسطولاً إلى قابس, فاجتازوا بالمهدية, فحينئذ تحقق علي اتفاقهما,
وكان يكذبه.
فلما جاز أسطول رجار بالمهدية أخرج علي أسطوله في أثره, فوصل إلى قابس, فلما رأى صاحب أسطول الفرنج المسلمين لم يخرج مركبه, فعاد أسطول الفرنج, وبقى أسطول علي يحصر رافعًا بقابس مضيقًا عليه, ثم عادوا إلى المهدية» (?).
وبعد ذلك أراد رافع أن يحاصر المهدية وجمع شتات الأعراب وجهز جنودًا وزعم أنه يريد الدخول في طاعة الأمير علي إلا أن الأمير لم تنطل عليه الحيلة وحاربه وكسر شوكة رافع حتى تدخل بعض الأعيان من العرب وغيرهم للصلح بين الطرفين (?).
وشعر الأمير علي بن يحيى بخطورة زعيم صقلية «رجار» عليه فأصدر أوامره لتجديد الأسطول وإعداد العدة لدحر قوات رجار البحرية, وكاتب المرابطين