أصيب الحجاج في آخر عمره بما يظهر أنه سرطان المعدة. وتوفي بمدينة واسط في العشر الأخير من رمضان 95هـ (714م)، وقيل في ليلة القدر، ولعله علامة على حسن الخاتمة. قال محمد بن المنكدر: كان عمر بن عبد العزيز يبغض الحجاج فنفس عليه بكلمة قالها عند الموت: «اللهم اغفر لي فإنهم زعموا أنك لا تفعل». وروى الغساني (لم أعرفه) عن عمر بن عبد العزيز أنه قال: «ما حسدت الحجاج عدو الله على شيء حسدي إياه على: حبه القرآن وإعطائه أهله عليه، وقوله حين حضرته الوفاة: "اللهم اغفر لي فإن الناس يزعمون أنك لا تفعل"». وقال الأصمعي: لما حضرت الحجاج الوفاة أنشأ يقول:
يَا رَبِّ قَدْ حَلَفَ الأَعْدَاءُ وَاجْتَهَدُوا
بِأَنَّنِي رَجُلٌ مِنْ سَاكِنِيالنَّارِ
أَيَحْلِفُونَ عَلَى عَمْيَاءَ؟ وَيْحَهُمُ
ما عِلْمُهُمْ بكريم العَفْوِغَفَّارِ؟
ترك الحجاج وصيته، وفيها قال: بسم الله الرحمن الرحيم، هذا ما أوصى به الحجاج بن يوسف: أوصى بأنه يشهد أن لا إله إلا الله وحده لا شريك له، وأن محمداً عبده ورسوله، وأنه لا يعرف إلا طاعة الوليد بن عبد الملك، عليها يحيا وعليها يموت وعليها يبعث.. الخ.[4]
ويروى أنه قيل له قبل وفاته: ألا تتوب؟ فقال: إن كنت مسيئاً فليست هذه ساعة التوبة، وإن كنت محسناً فليست ساعة الفزع.[5] وقد ورد أيضاً أنه دعا فقال: اللهم اغفر لي فإن الناس يزعمون أنك لا تفعل.[6][7]
دُفن في قبر غير معروف المحلة في واسط، فتفجع عليه الوليد، وجاء إليه الناس من كل الأمصار يعزونه في موته، وكان يقول: كان أبي يقول أن الحجاج جلدة ما بين عينيه، أما أنا فأقول أنه جلدة وجهي كله.
((من صديقتكم الجديدة saniora))