براى خير و بركت ما دعا كنى ، خداوند - عزّ و جلّ - اين آيه را نازل فرمود كه لا تَقُمْ فِيهِ . . . و هم اكنون هيچ اثرى از اين مسجد باقى نمانده ، زيرا از زمانهاى دور ويران گرديده است . هنگامى كه مسلمانان مدينه از حركت پيامبر صلّى اللّه عليه و إله به سوى مدينه مطلع شدند ، همه روزه از بامداد به سوى حرّه آمده و انتظار او را مىكشيدند و تنها گرماى آفتاب بود كه آنان را وادار به بازگشت مىكرد . پس از آن كه روزى همهء مسلمانان به مدينه بازگشتند ، مردى از يهوديان براى انجام كارى به سوى خانه‌اى سنگى در اين محل آمد . ناگاه رسول خدا و اصحاب او را ، در حالى كه لباس سفيد بر تن داشتند ، ديد ، با صداى بلند فرياد زد : « اى فرزندان قيله - يعنى انصار - اين خواسته و آرزوى شما است كه انتظار او را مىكشيديد . » مسلمانان با جوش و خروش ، سلاح‌هاى خود را برداشته ، بدان سوى به حركت درآمدند و رسول خدا صلّى اللّه عليه و إله را در كنار حرّه يافتند ، پس با وى به سمت راست حركت كرده و در قبيله بنو عمرو بن عوف و در منزل كلثوم بن هدم بن امرىء القيس در قبا توقف نمودند . كلثوم بن هدم در كنار منزل خود جايگاهى براى خشكاندن خرماهاى خود داشت ، رسول خدا صلّى اللّه عليه و إله آن را اختصاص به مسجد داد و در آن محل با كمك ديگران مسجدى به پا كردند . و حضرت تا پايان زندگى همواره بدان مسجد مىآمد و اهل قبا نيز به امامت معاذ بن جبل در آن نماز اقامه مىكردند . پس از رحلت پيامبر صلّى اللّه عليه و إله نيز صحابه بدان مسجد مىآمدند و آن را گرامى مىداشتند . در كتاب بخارى نيز آمده است كه سالم غلام ابو حذيفه در ميان مهاجران اوليه از اصحاب رسول خدا صلّى اللّه عليه و إله در مسجد قبا نماز به پا مىداشت كه در ميان آنان ابو بكر و عمر نيز بودند . هنگامى كه عبد الملك بن مروان به حكومت رسيد ، بر وسعت اين مسجد افزود ، همچنين پس از آن كه عمر بن عبد العزيز مسجد النبى صلّى اللّه عليه و إله را ساخت ، مسجد قبا را نيز توسعه داد و آن را به وسيلهء سنگ و گچ بنا نمود و در آن ستونهايى از سنگ كه درون آن آهن و سرب به كار رفته بود ، ساخت . همچنين مسجد را به وسيلهء كاشىكارى تزيين نمود و شبستانهايى در آن ساخت و سقفى از چوب ساج بر آن قرار داد