وسمع ببغداد ونيسابور والحرمين ومصر والشام والثغور والعراق سمع أحمد بن صالح المصري وعيسى بن حماد وأبا الطاهر بن السرح وإسحاق الكوسج ومحمد بن أسلم وعلي بن خشرم وسلمة بن شبيب ومحمد بن يحيى الزماني والمسيب بن واضح وأبا سعيد الأشج وغيرهم روى عنه عبد الرحمن بن أبي حاتم وأبو بكر بن مجاهد ودعلج ومحمد بن المظفر والدارقطني وأبو عمر بن حيويه وأبو حفص بن شاهين وأبو بكر الوراق وأبو الحسين بن سمعون وأبو أحمد الحاكم وأبو طاهر المخلص وعيسى بن الجراح ومحمد بن زنبور وأبو مسلم الكاتب وخلق وقال رأيت جنازة إسحاق بن راهويه سنة ثمان وثلاثين ومائتين وأول ما سمعت من محمد بن أسلم الطوسي في سنة إحدى وأربعين وكان بطوس وكان رجلا صالحا فسر أبى لما كتبت عنه وقال أول ما كتبت عن رجل صالح وقال دخلت الكوفة ومعي درهم واحد فاشتريت به ثلاثين مد باقلا فكنت آكل منه مدا وأكتب عن الأشج ألف حديث فكتبت عنه في الشهر ثلاثين ألف حديث ما بين مقطوع ومرسل وروى الخطيب عن أبي القاسم الأزهري عن ابن شاذان قال قدم ابن أبي داود