« وأبو عمرو راوية أهل بغداذ ، واسع العلم باللغة والشعر ، ثقة ، كثير الحديث كثير السماع ، وله كتب كثيرة في اللغة جياد ؛ منها النوادر ، ومنها كتاب الحروف الذي لقّبه بالجيم ومصنّفات في خلق الإنسان والخيل والإبل وسائر فنون اللغة ، وأخذ عنه دواوين أشعار القبائل كلَّها ، وله بنون وبنو بنين يروون عنه كتبه ، وأصحاب علماء ثقات ، وكان ممّن يلزم مجلسه ويكتب عنه الحديث أحمد بن حنبل » .
وقال أحمد بن يحيى النحويّ ثعلب : كان عند أبي عمرو الشيبانيّ ما يحتاج إليه ، وما لا يحتاج إليه لكثرة ما طلب وجمع .
قال أبو عمرو إسحاق بن مرار : توفى ابني محمد ، فرأيته في النوم ، فقلت :
ما زلت أعرفك مسرفا ، كنت تفعل كذا وكذا ، فقال :
أيارب إن تغفر فإنّك أهله * وإن تكن الأخرى فإنّى مجرم
قال : فقال لي شيخ من ناحية : هو أفقه منك ! قال محمد الكنديّ : بلغ أبو عمرو الشيبانيّ مائة سنة وعشر سنين ، ومات سنة ست أو خمس ومائتين .
وقال يعقوب بن السكَّيت : مات أبو عمرو الشيبانيّ ، وله مائة وثماني عشرة سنة ، وكان يكتب بيده إلى أن مات ، وربما استعار منّى الكتاب ، وأنا إذ ذاك صبيّ ، آخذ عنه ، وأكتب من كتبه .
وقال أحمد بن كامل القاضي : توفّى أبو العتاهية الشاعر في سنة ثلاث عشرة ومائتين ، وفى يوم مات فيه أبو عمرو الشيبانيّ وإبراهيم الموصليّ المغنى ، والد إسحاق ، وكانت وفاته ببغداذ .
وروى أن أبا عمرو مات سنة ست عشرة ومائتين ، وله مائة سنة وسنتان .