بدأ زكي باشا بجرثومة مكتبته وهو تلميذ بمدرسة الحقوق الخديوية سنة 1883 فكانت النقود التي كان يعطيه إياها أخوه محمود بك رشاد رئيس المحكمة الابتدائية الأهلية بالقاهرة سابقاً يشتري بها كتباً إفرنجية مما يستطيع التلميذ أن يقتصده من نفقته أما الكتب الثمينة فكان أخوه يشتريها له فيضم إليها الكتب التي كان أخذها من المدارس وجوائز ومن الأساتذة الفاحصين عَلَى سبيل التشجيع ومن ذلك تولد فيه الغرام بالكتب كما قال لنا عن نفسه.

فمكتبته والحالة هذه جمعت انتخاباً واختباراً. وما برح يضم إليه من الكتب العربية والإفرنجية التي يمكن أن تفيد الإنسان في مباحث عمومية ترجع إلى ارتقاء الشرق ولما قرأ التواريخ وتخيل المجد الكبير الذي أثله العرب في مدنيتهم من غير أن يقف عَلَى تفاصيل ذلك حدثته نفسه بأن يجعل خزانة كتبه مرجعاً لمن يريد إرجاع المجد إلى الشرق. ولذلك كان يقتني كل كتاب كان يصل إليه أو يقع تحت طاقته حتى يكون منها مجموعة ابتدائية فكانت أكبر مساعد للاستمرار عَلَى تكثيرها.

ولما دخل صاحب هذه الخزانة في خدمة الحكومة أخذ يخصص نصف راتبه الشهري لمشترى الكتب والنصف الثاني لسائر حاجياته وكثيراً ما كان يزيد النصف المخصص لابتياع الكتب عَلَى نصف الضروريات وما برحت أكثر ديونه إلى هذا العهد إلى الوراقين والطباعين وبائعي الكتب الجديدة والعتيقة في أوربا ومصر. ولما سافر إلى أوربا أول مرة سنة 1892 رجع ومعه غنيمة كبرى من الكتب وكلها إفرنجية مما يلزم الشرق وبعد ذلك اتسعت أمانيه وأصيح همه أن يكون لخزانته مزية حتى غدت الآن تستحق أن تكون مرآة يرى فيها الطالب معارف الشرق وعلومه سواء كانت من نفثات الشرقيين العرب مسلمين أو غير مسلمين أو قرائح الإفرنج. وأكثر كتب الإفرنج عنده بالإفرسية ومنها ما كتب باللاتينية والألمانية والإنكليزية والإيطالية. وهو يحس الفرنسية إحسانه بالعربية وله إلمام بالإيطالية والإنكليزية والإسبانية يستعين به في معرفة ما قد يحتاج إليه أثناء مباحثه. ولطالما سمع الخطبة العلمية في الجمعية الجغرافية الخديوية التي هو وكيلها باللغة الفرنسية فنقلها ارتجالاً إلى العربية وبالعكس من العربية إلى الفرنسية ولطالما فعل ذلك في مؤتمرات المستشرقين في أوربا وهو ينوب عن الحكومة المصرية فيها. وهذا من جملة