فدارهم ما دمت في دارهم * وأرضهم ما دامت في أرضهم
ثم أن ابن شرف توجه إلى الأندلس بصحبة أسرته عن طريق البحر ، واستقر في برجة قرب المرية ، وتردد على بلاطات ملوك الطوائف ، وفي السنوات الأخيرة من حياته وجه كل عنايته لتعليم ابنه أبي الفضل جعفر الذي حاز شهرة في الشعر والنثر مثل أبيه .
وتوفي بإشبيلية في غرة محرم 460 / 11 نوفمبر 1067 .
قال ابن بسام « وكان أبو عبد اللّه بن شرف القيرواني من فرسان هذا الميدان ، وأحد من نظم قلائد الآداب ، وجمع أشتات الصواب ، وتلاعب بالمنظوم والموزون ، تلاعب الرياح بأعناق الغصون ، وبينه وبين أبي علي بن رشيق ماج بحر البراعة ودام ، ورجع نجم هذه الصناعة واستقام ، وذهبا في المناقضة مذهبا تنازعاه شرا طويلا وخلّداه ذكرا محمولا ، واحتملاه - إن لم يسمح اللّه - وزرا ثقيلا . وكان أبو علي أوسعهما نفسا وأقربهما ملتمسا ولابن شرف أصالة منزعه وحلاوة مقطعه ومتانة لفظه وسعة حفظه . فتسمع شعره ملآن من وعوعة وجعجعة ، ولكن ما أبعد دائما بروحه وأبدعه » .
وقد أثنى عليه أبو الوليد الباجي ، ووصفه بالعلم والذكاء .
قال ابن بشكوال : « وقد أخبرنا عنه ابنه الأديب أبو الفضل جعفر بن محمد بجميع مجموعات أبيه وكتب بذلك إلينا خطه » .
مؤلفاته :
1 ) أبكار الأفكار ، وهو مختارات من شعره ونثره ، وفيه فصل جاء فيه :
« وقد أطلت الوقوف والعكوف على غير ما تصنيف » وقال ابن بسام « ذكر عن ابن شرف أنه يحتوي على مواعظ وأمثال وحكايات طوال » وذكر ابن دحية أنه في جزءين قال ابن بسام ناقلا عن ابن شرف : « وقد تكررت تواليفهم على الأبصار والأسماع ، والمكرر مملول بالإجماع .