بيعت برادرش مؤتمن را لغو كرد . چون اين خبر به گوش بنى عباس در بغداد رسيد ناخشنود شدند و ابراهيم بن مهدى را به خلافت برگزيدند و با وى بيعت كردند . چون مأمون از اين امر آگاه شد دانست كه فضل بن سهل خطا كرده و او را به امرى ناصواب واداشته است .
پس از مرو به قصد عراق خارج شد و بر فضل بن سهل حيله كرد تا او را كشت و نيز على بن موسى را در بيماريى كه به وى عارض شده بود ، مسموم ساخت تا او نيز بمرد . سپس صدوق بعد از ذكر اين مطلب مىنويسد : اين حكايتى بود كه ابو على حسين بن احمد سلامى در كتاب خود آورده است . اما قول صحيح آن است كه مأمون به خاطر نذرى كه ذكر آن گذشت ، آن حضرت را به ولى عهدى خود برگزيد و فضل بن سهل پيوسته با امام رضا ( ع ) دشمنى مىكرد و به او كينه مىورزيد و از ولايتعهدى آن حضرت ناخشنود بود زيرا او نيز از دستپروردگان آل برمك بود .
نامهء مأمون به امام رضا ( ع ) و فرا خواندن آن حضرت را به سوى خود و فرستادن كسى كه آن حضرت را به سوى او آورد
صدوق در عيون اخبار الرضا به سند خود از عدهاى نقل كرده است كه گفتند : چون كار امين ساخته و پرداخته شد و خلافت براى مأمون هموار گرديد ، نامهاى به رضا ( ع ) نوشت و او را به سوى خود در خراسان فرا خواند . امام نيز عذر و بهانه بسيار آورد اما وى همچنان به آن حضرت نامه مىنگاشت و از آن حضرت خواستار آمدن مىشد . تا آنجا كه امام رضا ( ع ) دانست كه چارهاى جز اين ندارد . پس با فرزندش ابو جعفر ( امام نهم ) كه هفت سال داشت از مدينه رهسپار شد .
طبرى مىنويسد : در اين سال ، يعنى سال 200 هجرى ، مأمون فردى را به نام رجاء بن ابو ضحاك ، عموى فضل بن سهل و فرناس خادم را براى آوردن على بن موسى بن جعفر بن محمد و محمد بن جعفر روانه كرد . محمد بن جعفر در مكه بر مأمون شوريد و خود را امير مؤمنان خواند . آنگاه خود را به دست جلودى سپرد و جلودى با او به عراق آمد و وى را تسليم حسن بن سهل كرد . حسن نيز وى را به همراه رجاء بن ابو ضحاك به نزد مأمون در مرو گسيل داشت . طبرى نيز اين مطلب را نوشته است . رجاء ، امام رضا ( ع ) را از مدينه و محمد بن جعفر را از عراق آورد .
صدوق در عيون اخبار الرضا به سند خود از رجاء بن ابو ضحاك نقل كرده است كه گفت :
مأمون مرا مأمور آوردن على بن موسى الرضا از مدينه كرد . و به من دستور داد كه وى را از راه بصره و اهواز و فارس بياورم نه از راه قم . و نيز فرمان داد كه شبانه روز از وى محافظت كنم تا او را نزد مأمون ببرم . بنابراين من از مدينه تا مرو ، همراه على بن موسى بودم .