از حبشه بازگشته بود لذا گروهى به تعبير راوى گمان بردند كه او از مهاجرين به حبشه بوده است . عمر بن الخطاب وقتى مغيرة بن شعبه را از بصره بر كنار كرد او را بر آنجا گماشت و در آن پست بود تا اينكه عثمان بن عفان او را معزول ساخت و عبد اللّه بن عامر بن - كرن را بجايش گمارد . از اين پس ابو موسى در كوفه اقامت گزيد و وقتى مردم كوفه عليه سعيد بن العاص شوريدند و او را بيرون انداختند براى عثمان نوشتند كه ابو موسى را بر كوفه بگمارد او نيز چنين كرد ولى امير المؤمنين ( ع ) پس از وقوف بر آن موضع مشهور او ، وى را بر كنار كرد . او نسبت به امام كين‌توز و از ايشان بيزار بود و آنگونه كه برخى محدثين اظهار مىدارند سخنان زشتى در مورد آن حضرت گفته است و به علاوه او را در شمار كسانى دانسته‌اند كه در « ليلة العقبة » راه پيامبر خدا ( ص ) را بستند . و از سويد بن غفلة نقل شده كه او گفته است : طى خلافت عثمان ، همراه ابو موسى الاشعرى بر ساحل رود فرات بودم او برايم از پيامبر خدا ( ص ) روايت كرد كه فرمود : بنى اسرائيل اختلاف كردند و همچنان اختلاف در ميان آنها بود تا اينكه دو داور گمراه را برگزيدند كه هم خود گمراه شدند و هم پيروانشان را گمراه ساختند كار اين امت نيز چنين است و دو داور گمراهى كه پيروانشان را نيز به گمراهى مىكشانند بالاخره به درگيرى آنها پايان مىبخشند ؛ به او گفتم : اى ابو موسى ، زنهار كه مبادا يكى از آنها باشى . در اين حال پيراهنش را از تن در آورد و گفت : همچنانكه پيراهنم را از تن جدا ساخته‌ام خدا را گواه مىگيرم كه از اين كار دورى گزينم . راوى در ادامه مىگويد : پيش‌بينى رسول خدا ( ص ) در مورد او تحقق يافت و به عنوان داور از سوى مردم عراق ( در جريان حكميت ) بود كه هم گمراه شد و همراهانش را به گمراهى كشاند . در هر حال ، در شرح نهج البلاغة ابن ابى الحديد آمده كه آنها وقتى شروع به ثبت مواد توافقنامه كردند و كاتب نوشت : اين توافقنامه‌اى است كه على امير المؤمنين و معاوية بن ابى سفيان بر آن توافق كرده‌اند ، معاويه گفت : عجب مرد بدى هستم كه اعتراف مىكنم او امير المؤمنين است و با وى مىجنگم و عمرو بن العاص گفت : بايد نام او و نام پدرش را بنويسى . و هنگامى كه اهل عراق در مورد نوشتهء كاتب اصرار ورزيدند گفت كه او امير شما و نه امير ماست در اينجا ، نوشته را نزد امير المؤمنين بردند و موضوع را با ايشان در ميان گذاردند . دستور داد تا آن را پاك كنند ؛ احنف بن قيس به او گفت عنوان امير المؤمنين را از خود پاك مگردان چه بيم آن دارم كه پس از آن هرگز آن را بازنيابى . امير المؤمنين ( ع ) فرمود : چه شباهتى دارد امروز با روز حديبية