ألعنه بعدها . ثم كنت أحضر تحت منبر المدينة وأبي يخطب يوم الجمعة وهو حينئذ أميرالمدينة ، فكنت أسمع أبي يمر في خطبه تهدر شقاشقه حتى يأتي إلى لعن علي فيجمجم ويعرض له من الفهاهة والحصر ما الله عالم به ، فكنت أعجب من ذلك فقلت له يوماً:يا أبت أنت أفصح الناس وأخطبهم ، فما بالي أراك أفصح خطيب يوم حفلك حتى إذا مررت بلعن هذا الرجل ، صرت ألكن عَيِيّاً ! فقال: يا بني ، إن من ترى تحت منبرنا من أهل الشام وغيرهم لو علموا من فضل هذا الرجل ما يعلمه أبوك ، لم يتبعنا منهم أحد ! فوقرت كلمته في صدري مع ما كان قاله لي معلمي أيام صغري ، فأعطيت الله عهداً لئن كان لي في هذا الأمر نصيبٌ لأغيرنه ! فلما من الله عليَّ بالخلافة أسقطت ذلك وجعلت مكانه: إِنَّ اللهَ يَأْمُرُ بِالْعَدْلِ وَالإِحْسَانِ وَإِيتَاءِ ذِي الْقُرْبَى وَيَنْهَى عَنِ الْفَحْشَاءِ وَالْمُنْكَرِ وَالْبَغْيِ يَعِظُكُمْ لَعَلَّكُمْ تَذَكَّرُونَ ، وكتب به إلى الآفاق فصار سنة).
ومدحه لذلك الشعراء ، فقال كُثيِّر عزة:
ولِيـتَ فلـم تشتـمْ عليـاً ولـم تُخـفْ
بَرِيَاً ولم تقبل إساءة مجرم
وكفَّرتَ بالعفو الذنوب مع الذي
أتيت فأضحى راضياً كل مسلم
ألا إنما يكفي الفتى بعد زيغه
من الأود البادي ثقاف المقوم
وعبَّر الشريف الرضي في رثائه له عن عقيدة الشيعة في ابن عبد العزيز فقال رحمه الله :
يا ابن عبد العزيز لو بكت
العيـْـــنُ فتًى من أميةٍ لبكيتكْ
أنت نزهتنـا عـن السـب والشتْـم
فلـو أمـكـن الجـزاءُ جـزيتُـك
دير سمعان لا أغبك غيث
خيـرُ ميْـت من آل مـروان ميتُـك
فلوَ اني ملكتُ دفعاُ لما نا
بَكَ من طارق الردى لفديتك