وى سرانجام در سال 1376 ه . ق به بيمارى شديدى مبتلا شد و طولى نكشيد كه رحلت كرد . جنازه او بسيار شكوهمند تشييع شد ، جمع فراوانى از مؤمنين و پيشاپيش آنان مراجع بزرگ شيعه آقايان حكيم و شاهرودى و خويى و طلاب حوزه در تشييع او شركت كردند و مرحوم آيت‌اللَّه العظمى سيدمحمود شاهرودى قدس سره بر جنازه او نماز گزارد و در صحن مطهر علوى از جهت باب طوسى در حجره كنار مسجد عمران دفن شد . مادر : والده مكرمه آيت‌اللَّه هاشمى شاهرودى ، علويه فاضله‌اى از بيت علم و فقاهت ، دختر مرحوم آيت‌اللَّه العظمى سيدعلى مدد موسوى قائنى و مادر سه شهيد « 1 » است . جد پدرى : سيدعلى اكبر ابن سيدمحسن هاشمى حسينى جد پدرى آيت‌اللَّه هاشمى شاهرودى ، در خردسالى به همراه بعضى از بستگانش از شاهرود به كربلا براى مجاورت حضرت سيدالشهداء عليه السلام هجرت كرد . همانجا بزرگ شد و ازدواج كرد و به كسب و تجارت مشغول شد . وى معروف به تقوا و صلاح و سلامت نفس بود ، آيت‌اللَّه سيدعلى مدد قائنى او را « سلمان زمانه » توصيف كرده بود .

--> ( 1 ) شهيد سيدهادى ، شهيد سيدمحسن ، شهيد سيدمصطفى هاشمى شاهرودى