ثم كر بأصحابه على اليهود فتفرقوا بين يديه وانخذلوا بعد مقتل الحارث وجماعة منهم وولوا منهزمين إلى داخل الحصن فاستعظم ذلك قائدهم مرحب بعد ان شهد مصرع أخيه وهزيمة من معه ، فخرج من الحصن يتبجح بشجاعته وعليه درعان وقد تقلد بسيفين وتعمم بعمامتين ومعه رمحه وهو يرتجز ويقول :
قد علمت خيبر اني مرحب * شاكي السلاح بطل مجرب
إذا السيوف أقبلت تلتهب * أطعن أحيانا وحينا اضرب
فبرز له علي ( ع ) وهو يقول :
انا الذي سمتني أمي حيدرة * كليث غابات شديد قسورة
أكيلكم بالسيف كيل السندرة
فاختلف هو وعلي ضربتين فضربه علي بسيفه فقد الحجر الذي كان قد ثقبه ووضعه على رأسه مكان البيضة وشق المغفر ورأسه نصفين حتى وصل إلى أضراسه ، وسمع أهل العسكر صوت ضربته ولما ابصر اليهود فارسهم مرحبا ولوا منهزمين واستولى المسلمون على الحصن .
وجاء في سيرة ابن هشام عن ابن إسحاق بسنده إلى أبي رافع مولى رسول اللّه أنه قال : خرجنا مع علي بن أبي طالب حين بعثه رسول اللّه برايته فلما دنا من الحصن خرج إليه أهله فقاتلهم فضربه رجل من اليهود بالسيف فاتقاه بترسه فوقع الترس من يده فتناول بابا كان عند الحصن واخذه بيده مكان الترس ، ولم يزل بيده وهو يقاتل حتى فتح اللّه عليه ثم ألقاه من يده حين فرغ فلقد اجتمعنا ثمانية على أن نقلب ذلك الباب فلم نستطع ، وأضاف إلى ذلك هيكل في كتابه حياة محمد ان عليا بعد ان اخذ الباب بيده مكان الترس ظل يقاتل حتى انهزم اليهود وكانوا قد حفروا خندقا حول الحصن فجعل علي ( ع ) الباب الذي كان بيده قنطرة على الخندق واجتاز المسلمون عليه إلى داخل أبنية الحصن وذلك بعد ان قتل قائدهم الحارث بن أبي زينب .