وكان يحفر لأهل مكة ويضرح ، وانفذ إلى زيد بن سهل وكان يحفر لأهل المدينة فقيل له احفر لرسول اللّه فحفر له لحدا ودخل أمير المؤمنين والعباس والفضل وأسامة بن زيد ليباشروا دفنه فنادت الأنصار من وراء البيت يا علي نذكرك اللّه وحقنا اليوم من رسول اللّه ان يذهب ، ادخل منا رجلا يكون لنا به حظ من مواراة رسول اللّه ، فقال : ليدخل أوس بن خولى وكان بدريا فاضلا من بني عوف ، فلما دخل قال له علي انزل القبر فنزل ووضع أمير المؤمنين رسول اللّه على يديه ودلاه في حفرته ، فلما وضعه في حفرته ، قال له اخرج فخرج ونزل علي ( ع ) فكشف عن وجه رسول اللّه ووضع خده على الأرض ووجهه إلى القبلة ، ثم وضع عليه اللبن واهال عليه التراب ورفع قبره عن وجه الأرض مقدار شبر واحد وقيل أكثر من ذلك بقليل .
واختلفت الروايات في اليوم الذي دفن فيه وأكثرها انه كان في الثاني لوفاته ، وفي بعضها ان دفنه كان في آخر ساعة من يوم الثلاثاء .
وجاءت فاطمة ( ع ) إلى القبر ساعة دفنه ، وقالت اطابت نفوسكم ان تحثوا التراب على رسول اللّه ، واخذت من تراب القبر ووضعته على عينيها وأنشأت تقول :
ما ذا على من شم تربة احمد * ان لا يشم مدى الزمان غواليا
صبت علي مصائب لو أنها * صبت على الأيام عدن لياليا
وغاب في ذلك اليوم عن دنيا الناس وجه ما عرف التاريخ وجها أكرم منه ولا رجلا اعطى البشرية ما أعطاه وترك لها ما ترك ، ولا رجلا حمل إلى العالم مثل تلك الرسالة معجزة الدهور والعصور ، واستطاع ان يهز العالم من أقصاه إلى أقصاه منذ الف وأربعمائة من السنين حتى يومنا هذا وسيبقى ما بقي التاريخ الرجل الأول في تاريخ الانسانية الذي يهز الجبابرة