وضرب سالما ألف سوط ، وكان يوسف يمشي خالدا في طريقه كثيرا إضرارا به .
ثم قدم يوسف الحيرة ، فدعا بخالد وبإبراهيم ومحمد ابني هشام بن إسماعيل المخزوميين ، وكانا ممن يشير بخلع الوليد ، فبسط يوسف على خالد ، فلم يكلمه بكلمة ، وصبر إبراهيم بن هشام ، وجزع محمد ، ومكث خالد يوما في العذاب ، ثم وضع على صدره الدهق فقتل من الليل ودفن في ناحية الحيرة في عباءته التي كان فيها ، وذلك في المحرم سنة ست وعشرين ومائة ، فأقبل عامر بن سهلة الأشعري فعقر على قبره فرسا ، فضربه يوسف سبعمائة سوط .
حدثني أبو بكر الأعين عن أبي نعيم الفضل بن دكين قال : حدثني رجل كان مع يوسف بن عمر قال : شهدت خالدا حين أتى به يوسف فدعا بعود فوضع على قدميه ثم قامت عليه الرجال حتى كسروا قدميه فوالله ما تكلم ولا عبس .
وقال الوليد بن يزيد لأبي الزناد : قد أمرت يوسف بعذاب ابني هشام بن إسماعيل ، قال : سرور والله ، فأخذ الوليد القرطاس وكتب إلى يوسف : إذا أتاك كتابي هذا فألحّ في العذاب على ابني هشام وخالد بن عبد الله حتى يموتوا ، فكان يقال : ما قتلهم إلا أبو الزناد .
وقال المدائني : قالها رجل من قيس ونحّلها الوليد وهو الثبت :
وهذا خالد أمسى أسيرا * ألا منعوه إن كانوا رجالا
عظيمهم وسيّدهم قديما * جعلنا المخزيات له ظلالا