عزل از حكومت خراسان و مدّتى خانه‌نشينى و بيكارى در تهران ، در سال 1238 ق به حكومت يزد منصوب شد و حكومتش تا سال 1243 ق ادامه داشت . در واقع اينكه وفا در تذكرهء با عنوان « تخلّف اهل يزد و اعراض از وى » ياد كرده ، تخلّف اهل يزد نبود بلكه تخلّف و خيانت عبد الرّضا خان پسر تقى خان حاكم سابق يزد بود و تفصيل آن ، اين است كه شاهزاده باكفايت قاجار در سال 1243 ق خبر يافت كه در همسايگى خود ، كرمان ، حاكم آنجا - عبّاس قلى خان كه به حماقت شهره بود - تحت تأثير وزير قلّابش - محمّد قاسم خان دامغانى - و با تحركات او ، قصد و خيالاتى عليه دولت مركزى دارد . شاهزاده به سرعت حكومت يزد را به وزير و پيشكار خود ، عبد الرّضا خان ، سپرد و خود به سمت كرمان رفت . پس از چندى نايب الحكومه ، به فكر خيانت افتاد و همه خانواده چهل و شش فرزندى و كسان نزديك محمّد ولى ميرزا را جمع و از يزد اخراج كرد و حكومت را تصرّف نمود . شاهزاده در بازگشت از كرمان ، در راه نايين ، به آن‌ها برخورد و متوجّه اين خيانت گرديد . پس به تهران رفت و شاه ، حسن على ميرزاى شعاع السّلطنه را به جاى او گمارد . ( ر ك : شرح حال رجال ايران ، ج 4 ، صص 32 - 31 و نيز باستانى پاريزى ، محمّد ابراهيم : « قائم‌مقام و گرفتارىهاى او در كرمان و يزد » مجله يغما ، از ارديبهشت 1353 تا فروردين 1354 )