إذ كان أبوه مسعدة يلى ديوان الرسائل للمنصور، وقد أحكم تأديبه وتثقيفه، وتلقفه جعفر بن يحيى البرمكى، فاتخذه كاتبا للتوقيع بين يديه، وغرس فيه شغفه بالإيجاز والتأنق فى التعبير، حتى أصبح ذلك جزءا لا يتجزأ من جوهر نفسه.
والتحق بدواوين المأمون، حتى إذا رفع أحمد بن يوسف إلى الوزارة أقامه مقامه على ديوان الرسائل وظل يليه إلى وفاته. وتتميز كتابته الديوانية بالاقتصاد المسرف حتى كان يضرب به المثل فى الإيجاز، وهو يضيف إليه ميلا شديدا إلى التأنق والتنميق. وكان ابن الزيات من بيت تجارة، غير أنه نشأ محبّا للأدب، فأقبل على التزود بعلوم اللغة وكنوز الآداب الأجنبية والعربية، حتى برع فى الشعر والكتابة جميعا، وسرعان ما التحق بدواوين المأمون، وما زال نجمه فى صعود، حتى استوزره المعتصم، وظل وزيرا فى عهد ابتيه الواثق والمتوكل إلى أن نكبه الأخير نكبته المشهورة. وكان لسنا بليغا ولم يكن يصدر فى بلاغته ولسنه عن تكلف، وإنما كان يصدر عن طبع مهذب دون قصد إلى التأنق المسرف أو التنميق المفرط، وكان يحرص دائما على فصاحة اللفظ وحسن الأداء مع الجزالة والنّصاعة.