قال محمد بن عبدة بن سليمان: كنت مع أبي نعيم فقال له أصحاب الحديث: يا أبا نعيم! إنما حملت عن الأعمش هذه الأحاديث؟ فقال: ومن كنت أنا عند الأعمش؟ كنت قردا بلا ذنب.
قال صالح بن أحمد بن حنبل: قلت لأبي: وكيع، وعبد الرحمن، ويزيد بن هارون أين يقع أبو نعيم من هؤلاء؟ قال: يجيء حديثه على النصف من هؤلاء إلا أنه كيس يتحرى الصدق. قلت: فأبو نعيم أثبت أو وكيع؟ فقال: أبو نعيم أقل خطأ.
وقال حنبل عن أبي عبد الله قال: أبو نعيم أعلم بالشيوخ وأنسابهم وبالرجال، ووكيع أفقه.
وقال يعقوب بن شيبة: سمعت أحمد يقول: أبو نعيم أثبت من وكيع.
وقال عبد الله بن أحمد بن حنبل: عن أبيه، قال: أخطأ وكيع في خمس مائة حديث.
أخبرنا أحمد بن الحسن الترمذي، سمعت أبا عبد الله يقول: إذا مات أبو نعيم صار كتابه إماما إذا اختلف الناس في شيء فزعوا إليه.
قال أبو زرعة الدمشقي: سمعت يحيى بن معين يقول: ما رأيت أحدا أثبت من رجلين: أبي نعيم وعفان.
قال أبو زرعة: وسمعت أحمد بن صالح يقول: ما رأيت محدثا أصدق من أبي نعيم.
قال يعقوب الفسوي: أجمع أصحابنا أن أبا نعيم كان غاية في الإتقان.
وقال أبو حاتم: كان حافظا متقنا لم أر من المحدثين من يحفظ ويأتي بالحديث على لفظ واحد لا يغيره سوى قبيصة، وأبي نعيم في حديث الثوري، وكان أبو نعيم يحفظ حديث الثوري حفظا جيدا يعني: الذي عنده عنه قال: وهو ثلاث آلاف وخمس مائة حديث ويحفظ حديث مسعر، وهو خمس مائة حديث وكان لا يلقن.
قال أحمد بن منصور الرمادي: خرجت مع أحمد، ويحيى إلى عبد الرزاق خادما لهما قال: فلما عدنا إلى الكوفة قال يحيى بن معين: أريد أن أختبر أبا نعيم. فقال أحمد: لا ترد فالرجل ثقة قال يحيى: لا بد لي، فأخذ ورقة فكتب فيها ثلاثين حديثا، وجعل على رأس كل عشرة منها حديثا ليس من حديثه. ثم إنهم جاؤوا إلى أبي نعيم، فخرج وجلس على دكان طين، وأخذ أحمد بن حنبل فأجلسه عن يمينه، ويحيى عن يساره وجلست أسفل الدكان.
ثم أخرج يحيى الطبق فقرأ عليه عشرة أحاديث فلما قرأ الحادي عشر، قال أبو نعيم: ليس هذا من حديثي اضرب عليه. ثم قرأ العشر الثاني، وأبو نعيم ساكت فقرأ الحديث الثاني فقال أبو نعيم: ليس هذا من حديثي فاضرب عليه ثم قرأ العشر الثالث ثم قرأ الحديث الثالث، فتغير أبو نعيم وانقلبت عيناه ثم أقبل على يحيى فقال: أما هذا وذراع أحمد بيده فأورع من أن يعمل مثل هذا، وأما هذا يريدني فأقل من أن يفعل ذاك، ولكن هذا من فعلك يا فاعل، وأخرج رجله فرفس يحيى فرمى به من الدكان، وقام فدخل داره، فقال أحمد بن حنبل ليحيى: ألم أمنعك، وأقل لك: إنه ثبت قال: والله لرفسته لي أحب إلي من سفرتي.
قال حنبل: سمعت أبا عبد الله يقول: شيخان كان الناس يتكلمون فيهما، ويذكرونهما وكنا نلقى من الناس في أمرهما ما الله به عليم، قاما لله بأمر لم يقم به كبير أحد: عفان وأبو نعيم.
قال أبو العباس السراج: عن الكديمي قال: لما دخل أبو نعيم على الوالي ليمتحنه، وثم يونس، وأبو غسان وغيرهما، فأول من امتحن فلان، فأجاب ثم عطف على أبي نعيم فقال: قد أجاب هذا فما تقول؟ فقال والله ما زلت أتهم جده بالزندقة ولقد أخبرني يونس بن بكير أنه سمع جده يقول: لا بأس أن يرمي الجمرة بالقوارير. أدركت الكوفة، وبها أكثر من سبع مائة شيخ الأعمش فمن دونه يقولون: القرآن كلام الله، وعنقي أهون من زري هذا فقام إليه أحمد بن يونس، فقبل رأسه وكان بينهما شحناء وقال: جزاك الله من شيخ خيرا.