إلى الرصافة صُيِّرَ في حجر يقطين فنشأ المهدي وعلي بن يقطين كأنهما أخوان ، فلما أفضت الخلافة إلى المهدي استوزر علي بن يقطين وقدمه وجعله على ديوان الزمام وديوان البسر والخاتم ، فلم يزل في يده حتى توفى المهدي وأفضى الأمر إلى الهادي فأقره على وزارته ولم يشرك معه أحداً في أمره إلى أن توفي الهادي ، وصار الأمر إلى الرشيد فأقره شهراً ، ثم صرفه بيحيى بن خالد البرمكي . . . قرأت في كتاب محمد بن إسحاق النديم بخطه قال : توفي علي بن يقطين بمدينة السلام سنة اثنتين وثمانين ومائة ، وسنُّهُ سبع وخمسون سنة ، وصلى عليه ولي العهد محمد بن الرشيد ، وتوفي أبوه بعده في سنة خمس وثمانين ومائة ، ولعلي بن يقطين