ثم ولاه عبد الملك إمرة الحجاز ، وسار إلى المدينة من مكة ، فأقام بها ثلاثة أشهر وتغيب أهلها منه ، واستخف فيها ببقايا الصحابة رضى اللّه عنهم ، وختم أعناقهم ، وغير من الكعبة ما صنعه بها ابن الزبير .
وذلك أنه نقض الجانب الشامي من الكعبة ، وأخرج منه ما كان ابن الزبير أدخله من الحجر فيها ، وسدّ بابها الغربى الذي فتحه ابن الزبير ، وردمها بما فضل من حجارتها حتى ارتفعت كما هي عليه اليوم . وقد شرحنا ذلك في شفاء الغرام ومختصراته ، فأغنى عن إعادته هنا .
ثم عزله عبد الملك عن الحجاز في سنة خمس وسبعين ، وأمره على العراق ، ففعل فيه أيضا أمورا منكرة يطول شرحها ، وهي مبسوطة في كتب التاريخ . ولم يزل الحجاج على إمرة العراق ، حتى أهلكه اللّه تعالى ، في يوم الجمعة لسبع بقين من رمضان سنة خمس وتسعين . كذا قال الطبري في تاريخ وفاته .
وذكر الذهبي : أنه توفى ليلة سبع وعشرين من رمضان ، وله ثلاث وخمسون سنة أو دونها .
وروى ابن زبر في وفياته ، عن ابن عيينة : أنه توفى في شوال سنة خمس وتسعين ، وهو ابن أربع وخمسين سنة ، وقيل : إن عمره ثلاث وخمسون سنة . وكانت وفاته بمدينة واسط التي بناها . وبها دفن وعفّى أثر قبره وأجرى عليه الماء . وكان مرضه الذي مات به الأكلة وقعت في بطنه ، وسلط اللّه تعالى معها عليه الزمهرير . ولما بلغ الحسن البصري موت الحجاج سجد للّه شكرا . وقال : اللهم إنك أمته فأمت عنا سننه . وسئل إبراهيم النخعي عنه فقال : ألم يقل اللّه تعالى :
أَلا لَعْنَةُ اللَّهِ عَلَى الظَّالِمِينَ
.
وروى الترمذي عن هشام بن حسان ، أنه أحصى من قتل الحجاج صبرا ، فبلغ مائة ألف وعشرين ألفا ، وعرضت السجون بعده ، فوجد فيها ثلاثة وثلاثون ألفا ، لم يجب على أحد منهم قطع ولا صلب .
قال الذهبي : وسمعوه يقول عند الموت : رب اغفر لي ، فإن الناس يزعمون أنك لا تغفر لي . قال : وكان شجاعا مهيبا جبارا عنيدا ، مخازيه كثيرة ، إلا أنه كان عالما فصيحا مفوّها ، مجودا للقرآن . انتهى .
وكانت ولايته للحجاز ثلاث سنين ، وولايته للعراق عشر سنين .