وقال عبد العزيز الكتاني: ورد كتاب جماعة أن الحافظ أبا بكر مات في سابع ذي الحجة، وكان أبو إسحاق الشيرازي ممن حمل جنازته، قال إسماعيل بن أبي سعد الصوفي: كان أبو بكر بن زهراء الصوفي برباطنا قد أعد لنفسه قبرا إلى جانب قبر بشر الحافي وكان يمضي إليه في كل أسبوع وينام فيه ويقرأ فيه القرآن كله, فلما مات الخطيب وكان أوصى أن يدفن إلى جنب بشر الحافي فجاء المحدثون إلى ابن زهراء، وسألوه أن يدفنوا الخطيب في قبره وأن يؤثره به فامتنع فجاءوا إلى أبي فأحضره وقال: أنا لا أقول لك أعطهم القبر، ولكن لو أن بشرا الحافي في الأحياء وأنت إلى جانبه فجاء أبو بكر الخطيب ليقعد دونك أكان يحسن بك أن تقعد أعلى منه؟ قال: لا، بل كنت أقوم وأجلسه؛ قال: فهكذا ينبغي أن يكون الساعة, فطاب قلبه وأذن لهم. قال علي بن الحسين بن جدا: رأيت بعد موت الخطيب كأن شخصا قائما بحذائي فأردت أن أسأله عن الخطيب فقال لي ابتداء: انزل وسط الجنة حيث يتعارف الأبرار.
قال غيث الأرمنازي: قال مكي الرميلي: كنت ببغداد نائما في ليلة ثاني عشر في ربيع الأول سنة ثلاث وستين, فرأيت كأنا عند الخطيب لقراءة تاريخه على العادة والشيخ نصر بن إبراهيم المقدسي عن يمينه وعن يمين نصر رجل سألت عنه فقيل: هذا رسول الله -صلى الله عليه وآله وسلم- جاء ليسمع التاريخ, فقلت في نفسي: هذه جلالة لأبي بكر. قال غيث: أنشدنا الخطيب لنفسه:
إن كنت تبغي الرشاد محضا ... لأمر دنياك والمعاد
فخالف النفس في هواها ... إن الهوى جامع الفساد
أخبرنا المسلم بن محمد ومؤمل بن محمد ويوسف الشيباني في كتابهم قالوا: أنا أبو اليمن الكندي أنا أبو منصور الشيباني أنا أبو بكر الحافظ أنا أحمد بن محمد بن أحمد الأهوازي أنا محمد بن جعفر المطيري نا الحسن بن عرفة نا يحيى بن زكريا بن أبي زائدة عن عبيد الله بن عمر عن أسامة بن زيد عن عراك بن مالك عن أبي هريرة عن النبي -صلى الله عليه وآله وسلم- قال: "ليس في الخيل والرقيق زكاة إلا أن في الرقيق صدقة الفطر".