ومنافسة غذاها خفية الأمير المعز الهمت ابن رشيق تأليف عدد من رسائل الهجاء ، وأثارت غالبا مساجلات شعرية بينهما ، ولم ينته ما بينهما إلا في صقلية بتدخل من المعجبين الصقليين بالشاعرين .
وبعد سقوط القيروان وتخريبها من الاعراب الهلاليين في سنة 449 / 1057 تابع ابن رشيق المعز إلى المهدية ، ونظم المدائح في المعز وابنه تميم حاكم المهدية ، بالرغم من أنه تحمل أحيانا غضبا قاسيا من المعز الذي أصبح سريع الغضب بعد طوارق الدهر .
ولما هاجم أسطول مسيحي المهدية قال مخاطبا الأمير تميم بن المعز :
تثبت لا يخامرك اضطراب * فقد خضعت لعزتك الرقاب
فقيل إنه وبخ على هذا الفضول والتدخل فيما لا يعنيه ، فكانت حياته بالمهدية يشوبها حرج وإيلام لم يعرفهما في القيروان .
وبعد وفاة المعز بن باديس في 24 شعبان سنة 454 / 2 سبتمبر 1052 ببضعة أشهر ركب البحر قاصدا صقلية حيث وجد ابن شرف سبقه إليها ، وتصالح معه ، واستقر بمدينة مازرة ، وأحسن إليه حاكمها ، ولم يتابع ابن شرف في السفر إلى الأندلس حيث استدعاهما المعتمد بن عباد صاحب إشبيلية ، وقال لزميله متبرما بملوك الطوائف في الأندلس وتحليهم بالألقاب الفخمة ببيتيه المشهورين :
مما يزهدني في أرض أندلس * ألقاب معتصم فيها ومعتضد
ألقاب سلطنة في غير مملكة * كالهر يحكي انتفاخا صولة الأسد
فأجاب ابن شرف :
إن ترمك الغربة في معشر * قد جبل الطبع على بغضهم
فدارهم ما دمت في دارهم * وأرضهم ما دمت في أرضهم
ومات بمازرة سنة 456 / 1063 - 64 أو 463 / 1070 - 71 .