أمرا عظيما وحمّلك خطبا جسيما فيه دماء المسلمين وأموالهم وإقامة كتاب اللّه عزّ وجلّ وسنّة نبيّه صلّى اللّه عليه وسلم ، والذبّ عن ضعيفهم من قويّهم ، وإنصاف مظلومهم من ظالمهم ، والأخذ من شريفهم بالحق لخاملهم . وقد رجاك أمير المؤمنين لذلك لفقهك وعدلك وخيرك وحسبك وعلمك وتجربتك ، فعليك باتقاء اللّه عزّ وجلّ وحده لا شريك له وإيثار الحق على ما سواه . وليكن جميع الناس قويّهم وضعيفهم في الحق عندك سواء " . وأقام عبد الرّحمن قاضيا ردحا من الزمن . وسار في الناس بسيرة أهل العدل وأقام فيهم الكتاب والسنّة كما أمر به . ولم يزل على منصبه إلى أن زال ملك بني أميّة - سنة 132 ه فتأخر عن القضاء إذ كانت ولايته من قبل مروان . وفي أثناء تلك المدة حصل في إفريقية اضطراب كبير وهرج كاد يقضي على سلطان العرب بها . وذلك أن خوارج البربر من صفرية وغيرهم قاموا في وجه الحكومة ، وحاربوا متولّي الإمارة حبيب بن عبد الرّحمن الفهري وهزموا قواته ، واستباحوا القيروان بعد أن امتلكوها شرّ امتلاك سنة 138 ه فلما رأى رؤساء العرب وعلماؤهم ما آل إليه أمر البلاد أجمع رأيهم على إرسال بعثة إلى بغداد للاستغاثة بالخلافة العبّاسية وتعيّن عبد الرّحمن بن زياد رئيسا للوفد الإفريقي المبعوث . ووصل الوفد إلى بغداد واستأذن الدخول على أبي جعفر المنصور ، فأذن له وعرض الإفريقيون ما لحق بلادهم من فتنة البربر ومن عسف الأجناد فصغى الخليفة إليهم ووعدهم بنجدة مصرهم وتلافي أمره . وصف لنا عبد الرّحمن إحدى مقابلاته الخصوصية بالمنصور في هذه الرّحلة قال : " دخلت عليه والربيع - حاجب المنصور - قائم على رأسه فاستدناني وقال : يا عبد الرّحمن بلغني أنك كنت تفد إلى بني أميّة ، قلت : أجل ، قال : فكيف رأيت سلطاني من سلطانهم ؟ ، وكيف ما مررت به من أعمالنا حتى وصلت إلينا ؟ . فقلت : يا أمير المؤمنين ، رأيت أعمالا سيئة وظلما فاشيا ، وو اللّه ما رأيت في سلطانهم شيئا من الجور والظلم إلّا ورأيته في سلطانك . وكنت ظننته لبعد البلاد