ولد القاضي أبو يعلى في شهر محرم لتسع وعشرين أو ثمان وعشرين خلون منه، سنة ثمانين وثلاثمائة هجرية.
نقل ذلك الخطيب البغدادي في "تاريخ بغداد"1، قال: "حدثني أبو القاسم الأزهري، قال: كان أبو الحسين بن المحاملي يقول: ... سألته -أي القاضي أبا يعلى- عن مولده، فقال: ولدت لتسع وعشرين أو ثمان وعشرين ليلة خلت من المحرم سنة ثمانين وثلاثمائة".