ودخل بغداد في صباه واشتغل بالعلم وجالس الفقهاء والأدباء وكان على مذهب الإمام أحمد بن حنبل رضي الله عنه وسمع الحديث وحصل من كل فن طرفا وقرأ الكتاب العزيز وختمه بالقراءات والروايات وقرأ النحو واطلع على أيام العرب وأحوال الناس ولازم الكتابة وحفظ ألفاظ البلغاء وتعلم صناعة الإنشاء وكانت قراءته الأدب على أبي منصور ابن الجواليقي وتفقه على أبي الحسين محمد بن محمد الفراء وصحب الشيخ أبا عبد الله محمد ابن يحيى بن علي بن مسلم بن موسى بن عمران الزبيدي الواعظ وسمع الحديث النبوي من أبي عثمان إسماعيل بن محمد بن قيلة الأصبهاني ومن أبي القاسم هبة الله بن محمد بن الحسين الكاتب ومن بعدهما وحدث عن الإمام المقتفي لأمر الله أمير المؤمنين وعن غيره وسمع منه خلق كثير منهم الحافظ أبو الفرج ابن الجوزي وأول ولايته الإشراف بالأقرحة الغربية ثم نقل إلى الإشراف على الإقامات المخزنية ثم قلد الإشراف بالمخزن ولم يطل في ذلك مكثه حتى قلد في سنة اثنتين وأربعين كتابة ديوان الزمام ثم ترقى إلى الوزارة وكان سبب توليته الوزارة ما حكاه الذي جمع سيرته أنه قال من جملة ما رفع قدر الوزير ونقله إلى الوزارة ما جرى من مسعود البلالي شحنة بغداد نيابة عن السلطان مسعود بن محمد بن ملكشاه السلجوقي وكان مسعود أحد الخدم الخصيان الحبشيين الكبار من أمراء دولته من سوء أدبه في الحضرة وخروجه عن معتاد الواجب وانتشار مفسدي أصحابه وكان وزير الخليفة إذ ذاك قوام الدين أبو القاسم علي بن صدقة ابن علي بن صدقة قد كتب عن الخليفة إلى السلطان مسعود عدة كتب يعتمد الإنكار على مسعود البلالي على ما صدر منه فلم يرجع بجواب فلما قلد عون الدين ابن هبيرة كتابة ديوان الزمام خاطب الخليفة في مكاتبة السلطان مسعود بالقضية فوقع إليه قد كان الوزير كتب في ذلك عدة كتب فلم يجيبوه فراجع عون الدين في ذلك سؤاله إلى أن أجيب فكتب من إنشائه رسالة وهي طويلة فأضربت عن ذكرها وحاصل الأمر فيها أنه دعا له وأذكره ما كان أسلافه