ولد بقرية من قرى القيروان يقال لها: كَرْكِنْت [ضبطها الخطيب بكافين، وكان أوحد زمانه؛ قال الخطيب] (?): كان أوحدَ عصره في الورع والزهد والعزلة، [لقي الشيوخ بمصر، ثم دخل بلاد الشام، وصحب أبا الخير الأقطع، وجاور بمكة سنين فوق العشر، وكان لا يظهر في المواسم، ثم انصرف إلى العراق [لمحنةٍ لحقته بمكة في السنة، فسُئِلَ المُقام ببغداد، فلم يُجِبْهم] ومضى إلى نيسابور، فأقام بها، وكانت له كرامات، وكان أبو سليمان الخطابي يقول قد قال النبي - صلى الله عليه وسلم - لعمر: "قد كان في الأمم مُحدَّثون، فإن يَكُ في أمتي فعُمر (?) " وأنا أقول: إن كان في هذا العصر أحدٌ من المُحدَّثين فأبو عثمان.

وقال أبو عثمان (?): كنت ببغداد، فكان بي وجعٌ في مثانتي، فكنتُ أستغيث بالله، فناداني بعض الجنِّ وقال: ما استغاثتُك [بالله] وغوثُه منك ببعيد؟ ! ثم قَرَّب إليَّ سطلًا، فبُلْتُ فيه، فخرج مني شيءٌ بقوة، فضرب وسط السطل حتى سمعتُ له صوتًا، فإذا هو حجزٌ قد خرج من مثانتي، وذهب الوجع مني، فقلت: ما أسرعَ الغوث! وكذا الظنُّ به.

[وذكره ابن خميس في المناقب وقال: ] وكان أبو عثمان أوحدَ المشايخ في طريقته وتقدُّمه، ولم يُرَ مثلُه في علوِّ الحال، وصَونِ الوقت، وصحَّةِ الحكم بالفراسة، وقوةِ الهيبة.

سُئِلَ عن الاعتكاف، فقال: حفظ الجوارح تحت الأوامر.

وقال: من تحقَّقت عبوديَّتُه ظهر سِرُّه على مشاهدة الغيوب، فأجابته القدرة إلى ما يريد.

وقيل له: إن فلانًا سافر! فقال: يجب أن يسافر عن هواه وشهوته، وإلَّا فالسفر غُربةٌ، والغربة ذِلَّةٌ، وليس للمؤمن أن يُذِلَّ نفسَه.