وقال السلفي في "معجم السفر": سمعت الحسن بن أبي الحر بسلماس يقول: قدم أبو عثمان الصابوني بعد حجه ومعه أخوه أبو يعلى في أتباع ودواب فنزل على جدي أحمد بن يوسف الهلالي فقام بجميع مؤنه وكان يعقد المجلس كل يوم وافتتن الناس به وكان أخوه فيه دعابة فسمعت أبا عثمان يقول وقت أن ودع الناس: يا أهل سلماس! لي عندكم أشهر أعظ وأنا في تفسير آية وما يتعلق بها ولو بقيت عندكم تمام سنة لما تعرضت لغيرها والحمد لله.
قال عبد الغافر في "تاريخه": حكى الثقات أن أبا عثمان كان يعظ فدفع إليه كتاب ورد من بخارى مشتمل على ذكر وباء عظيم بها ليدعو لهم ووصف في الكتاب أن رجلا خبازا درهما فكان يزن والصانع يخبز والمشتري واقف فمات ثلاثتهم في ساعة.
فلما قرأ الكتاب هاله ذلك واستقرأ من القارئ {أفأمن الذين مكروا السيآت} [النحل:45] الآيات ونظائرها وبالغ في التخويف والتحذير وأثر ذلك فيه وتغير وغلبه وجع البطن وأنزل من المنبر يصيح من الوجع فحمل إلى حمام فبقي إلى قريب المغرب يتقلب ظهرا لبطن وبقي أسبوعا لا ينفعه علاج فأوصى وودع أولاده ومات وصلي عليه عقيب عصر الجمعة رابع المحرم وصلى عليه ابنه أبو بكر ثم أخوه أبو يعلى.
وأطنب عبد الغافر في وصفه وأسهب إلى أن قال: وقرأت في كتاب كتبه زين الإسلام من طوس في التعزية لشيخ الإسلام: أليس لم يجسر مفتر أن يكذب على رسول الله في وقته؟ أليست السنة كانت بمكانه منصورة والبدعة لفرط حشمته مقهورة؟ أليس كان داعيا إلى الله هاديا عباد الله شابا لا صبوة له كهلا لا كبوة له شيخا لا هفوة له؟ يا أصحاب المحابر وطؤوا رحالكم قد غيب من كان عليه إلمامكم ويا أرباب المنابر أعظم الله أجوركم فقد مضى سيدكم وإمامكم.
قال الكتاني: ما رأيت شيخا في معنى أبي عثمان زهدا وعلما كان يحفظ من كل فن لا يقعد به شيء وكان يحفظ التفسير من كتب كثيرة وكان من حفاظ الحديث.
قلت: ولقد كان من أئمة الأثر له مصنف في السنة واعتقاد السلف ما رآه منصف إلا واعترف له.
قال معمر بن الفاخر: سمعت عبد الرشيد بن ناصر الواعظ بمكة، سمعت إسماعيل بن عبد الغافر، سمعت الإمام أبا المعالي الجويني يقول: كنت بمكة أتردد في المذاهب فرأيت النبي -صلى الله عليه وسلم- فقال لي: عليك باعتقاد ابن الصابوني.
قال عبد الغافر: ومما قيل في أبي عثمان قول الإمام أبي الحسن؛ عبد الرحمن بن محمد الداوودي:
أودى الإمام الحبر إسماعيل ... لهفي عليه ليس منه بديل
بكت السما والأرض يوم وفاته ... وبكى عليه الوحي والتنزيل
والشمس والقمر المنير تناوحا ... حزنا عليه وللنجوم عويل
والأرض خاشعة تبكي شجوها ... ويلي تولول أين إسماعيل؟
أين الإمام الفرد في آدابه ... ما إن له في العالمين عديل
لا تخدعنك منى الحياة فإنها ... تلهي وتنسي والمنى تضليل
وتأهبن للموت قبل نزوله ... فالموت حتم والبقاء قليل