نخستين اقدام او تعقيب كسانى بود كه بيعت او شكسته بودند ، مخصوصا مشايخ هنتاته و تينملل . المأمون براى جذب آنان حيلهاى انديشيد و همه را امان داد . چون همه به سلام او شتافتند ، آنان را به پاى حساب كشيد و خطوط آنان و بيعتنامههايشان را بيرون آورد . اين كار در حضور قاضى فقيه المكيدى بود كه از اشبيليه با او آمده بود .
سپس قاضى را مخاطب گردانيد و گفت : اى فقيه چه مىگويى در باب قومى كه با كسى بيعت كنند ، سپس بيعت بشكنند و او را خلع كنند و بكشند آنگاه با ديگرى بيعت كنند و بيعت او را هم بشكنند و او را نيز بكشند . سپس با ديگرى بدينسان بيعت كنند و بيعت او نيز بشكنند ؟ قاضى گفت : سزاى همه مرگ است . سپس اين آيه را تلاوت كرد :
« فَمَنْ نَكَثَ فَإِنَّما يَنْكُثُ عَلى نَفْسِهِ »
مأمون حكم اعدام همه را صادر كرد . نزديك به صد نفر از اعيان موحدين بودند . پس از كشتن پيكرشان را در حفرهء بزرگى خارج باب الساده دفن كردند . آنگاه به تعقيب باقى آنها پرداخت و بيشترشان را اعدام كرد . با اين عمل قدرت مشيخهء موحدين روى در كاستى آورد و آن نيروى عظيم كه از زمان المهدى همواره سرنوشت دولت موحدى را در دست داشت روى به ضعف نهاد .
در ماه رمضان اين سال - سال 627 ه - خليفه از مراكش بيرون آمد تا هجوم تازه يحيى المعتصم بن الناصر و ياران او را كه از موحدين بودند ، دفع كند . بار ديگر شكست در لشكر يحيى افتاد و شمار كثيرى از آنان به قتل رسيد . يحيى و بقاياى لشكرش به درعه و سجلماسه گريختند . خليفه المأمون چهار هزار سر كه بريده بود بر باروهاى مراكش بياويخت . قضا را هوا گرم بود و بوى بد آنها مردم را آزار مىداد . شكايت به او بردند . گفت ، در اين شهر ديوانگانى هستند كه اين سرها به منزله حرزهاى آنهاست كه جز به آنها شفا نيابند اما بوى آنها در مشام دوستان ما چون بوى خوش عطر است و در مشام دشمنان ما بوى گند .
المأمون مىخواست دولت فرسودهء موحدين را از نو تجديد كند و تازگى بخشد .
نخست به سراسر بلاد نوشت كه نام المهدى از خطبه و سكه بردارند و از نامهها محو كنند . و در بانگ نماز الفاظ بربرى را چون « تاصليت الاسلام » و « سودود » و « ناردى »