أبو العرب قال: كان ثقة مأمونا، متعبدا، بارعا في الفقه. سمع من مالك والثوري والليث وابن لهيعة، ولم يكن في عصره بإفريقية مثله.
سمع منه البهلول وسحنون وشجرة بن عيسى وأسد بن الفرات. وذكر أن أسدا قال: «إني لأدعو الله عزّ وجلّ لعلي بن زياد مع والديّ، لأنه أول من تعلمت العلم عليه».ولم يكن سحنون يقدم عليه أحدا من أهل إفريقية.
قال أبو سعيد بن يونس: وهو أول من أدخل المغرب «جامع سفيان الثوري» و «موطأ مالك» وفسر لهم قول مالك، ولم يكونوا يعرفونه، وهو معلم سحنون. دخل الحجاز والعراق.
[جبلة قال: ] سمعت سحنونا يسأل شرحبيل قاضي أطرابلس عن أصل علي بن زياد فقال: «كشفنا عن أصله فإذا هو من العجم. وكان أوله من أطرابلس [ثم سكن مدينة تونس]».
عن سحنون، قال: «كان البهلول يأتي إلى علي بن زياد ليسمع منه، ويفزع إليه في الملمات، يعني في العلم والمعرفة.