ولد ببيت المقدس، في شوال، سنة ثمان وأربع مائة.
وسمع بالقدس ومصر، والحرميين والشام، والجزيرة والعراق، وأصبهان والجبال، وفارس وخراسان، وكتب ما لا يوصف كثرة بخطه السريع، القوي الرفيع، وصنف وجمع، وبرع في هذا الشأن، وعني به أتم عناية، وغيره أكثر إتقانا وتحريا منه.
سمع من: أبي علي الحسين بن عبد الرحمن الشافعي وطبقته بمكة، ومن سعد الزنجاني، وهياج بن عبيد. وسمع بالمدينة: الحسين بن علي الطبري، وجماعة. وسمع بمصر من: أبي الحسن الخلعي، وأبي إسحاق الحبال، وعدة. وسمع ببغداد من: أبي محمد الصريفيني، PageV14P287
وابن النقور، وعلي بن البسري، وخلق، وبدمشق من: أبي القاسم بن أبي العلاء، وعدة. وبأصبهان من: محمد بن عبد العزيز، وعبد الوهاب بن أبي عبد الله بن مندة، وطبقته، وبجرجان من: إسماعيل بن مسعدة الإسماعيلي، وببيت المقدس من: الفقيه نصر، وبنيسابور من: الفضل بن المحب، وطبقته، وبهراة من: محمد بن أبي مسعود الفارسي، وعبد الرحمن بن عفيف كلار، وطائفة، وبمرو: محمد بن الحسن المهربندقشايي، وبالإسكندرية من: الحسين بن عبد الرحمن الصفراوي، وبتنيس: علي بن الحسين بن الحداد، روى له عن جده عن الوشاء عن عيسى زغبة، وبحلب من: الحسن بن مكي، وبالجزيرة من: عبد الوهاب بن محمد اليمني صاحب أبي عمر بن مهدي، وبآمد من: قاسم بن أحمد الأصبهاني الخياط، روى له عن ابن جشنس عن ابن صاعد، وبإستراباذ: علي بن عبد الملك الحفصي، وبالبصرة: عبد الملك بن شغبة، وبالدينور: ابن عباد. وبالري: إسماعيل بن علي، وبسرخس محمد بن المظفر، وبشيراز علي بن محمد الشروطي، وبقزوين محمد بن إبراهيم العجلي، وبالكوفة أبا القاسم حسين بن محمد، وبالموصل هبة الله بن أحمد المقرئ، وبمرو الروذ، وساوة، والرحبة، والأنبار، والأهواز، ونوقان، وهمذان، وواسط، وأسداباذ، وإسفرايين، وآمل، وبسطام، وخسروجرد، وطوس.
حدث عنه: شيرويه بن شهردار، وأبو جعفر بن أبي علي الهمذاني، وأبو نصر أحمد بن عمر الغازي، وعبد الوهاب الأنماطي، وابن ناصر، والسلفي، وأبو زرعة طاهر بن محمد، وولده، ومحمد بن إسماعيل الطرسوسي، وطائفة سواهم.
قال أبو القاسم بن عساكر: سمعت إسماعيل بن محمد الحافظ يقول: أحفظ من رأيت محمد بن طاهر.
وقال أبو زكريا يحيى بن منده: كان ابن طاهر أحد الحفاظ، حسن الاعتقاد، جميل الطريقة، صدوقا، عالما بالصحيح والسقيم، كثير التصانيف، لازما للأثر.
وقال السلفي: سمعت محمد بن طاهر يقول: كتبت "الصحيحين" و"سنن أبي داود" سبع مرات بالأجرة، وكتبت "سنن ابن ماجه" عشر مرات بالري.
قال أبو سعد السمعاني: سألت الفقيه أبا الحسن الكرجي عن ابن طاهر، فقال: ما كان على وجه الأرض له نظير، وكان داودي المذهب، قال لي: اخترت مذهب داود. قلت: ولم? قال: كذا اتفق، فسألته: من أفضل من رأيت? فقال: سعد بن علي الزنجاني، وعبد الله بن محمد الأنصاري.
قال أبو مسعود عبد الرحيم الحاجي: سمعت ابن طاهر يقول: بلت الدم في طلب الحديث مرتين، مرة ببغداد، وأخرى بمكة، كنت أمشي حافيا في الحر، فلحقني ذلك، وما ركبت دابة قط في طلب الحديث، وكنت أحمل كتبي على ظهري، وما سألت في حال الطلب أحدا، كنت أعيش على ما يأتي.
وقيل: كان يمشي دائما في اليوم والليلة عشرين فرسخا، وكان قادرا على ذلك، وقد ذكره الدقاق في "رسالته"، فحط عليه، فقال: كان صوفيا ملامتيا، سكن الري، ثم همذان، له كتاب "صفوة التصوف"، وله أدنى معرفة بالحديث في باب شيوخ البخاري ومسلم وغيرهما.