وكان أبو عبيد في أول أمره يؤدب غلاما في شارع بشر وبشير، ثم صار مؤدبا لأولاد هرثمة بن أعين، أحد ولاة الخليفة العباسي هارون الرشيد كان واليا على خراسان، ثم ولاه الرشيد على بلاد أفريقيا سنة 177 ه (1) .
فعند ذلك اتصل بثابت بن نصر بن مالك الخز اعي، فصار يؤدب أولاده، ثم ولي ثابت طرسوس ثماني عشرة سنة، فولى أبا عبيد القضاء بطرسوس ثماني عشرة سنة، فاشتغل عن كتابة الحديث.
ثم صار إلى ناحية عبد الله بن طاهر، واتصاله بالطاهريين كان لما نزل طاهر بن الحسين إلى مرو سنة 195 ه طلب رجلا ليحدثه ليلة، فقيل له: ما هاهنا إلا رجل مؤدب، فأدخل عليه أبو عبيد القاسم بن سلام، فوجده أعلم الناس بأيام الناس، والنحو، واللغة، والفقه، فقال له: من المظالم تركك أنت بهذا البلد، فدفع إليه ألف دينار، وقال له: أنا متوجه إلى خراسان إلى حرب، وليس أحدث أن أستصحبك شفقا عليك، فأنفق هذا إلى أن أعود إليك، فبدأ أبو عبيد بتأليف الغريب المصنف إلى أن عاد طاهر بن الحسين من خراسان، فحمله معه إلى سر من رأى، فمن ذلك اليوم قويت صلته مع الطاهريين، وكان طاهر بن عبد الله يود أن يأتيه أبو عبيد ليسمع منه كتاب "غريب الحديث"في منزله، فلم يفعل ذلك إجلالا لحديث رسول الله صلى الله عليه وسلم، فكان هو يأتيه.
وقد كان مرة مع عبد الله بن طاهر، فوجه إليه أبو دلف العجلي يستهديه أبا عبيد لمدة شهرين، فأنفذ أبا عبيد إليه، فأقام شهرين، فلما أراد الانصراف وصله أبو دلف بثلاثين ألف درهم، فلم يقبلها، وقال: أنا في جنبة رجل ما يحوجني إلى صلة غيره، ولا آخذ ما فيه علي نقص، فلما عاد إلى ابن طاهر وصله بثلاثين ألف دينار، بدل ما وصله أبو دلف فقال له: أيها الأمير، قد قبلتها، ولكن قد أغنيتني بمعروفك وبرك، وكفايتك عنها، وقد رأيت أن أشتري بها سلاحا وخيلا، وأتوجه بها إلى الثغرة ليكون الثواب متوفرا على الأمير، ففعل.
فهذا دليل واضح على إكرام الطاهريين له، وعلى عفة أبي عبيد ونزاهته، رحمه الله.
ثم صارت صلته بعدها قوية مع عبد الله بن طاهر، ولما صنف أبو عبيد كتاب غريب الحديث عرضه على عبد الله بن طاهر، فاستحسنه وقال: إن عقلا بعث صاحبه على عمل مثل هذا الكتاب لحقيق أن لا يحوج إلى طلب المعاش، فأجرى له عشرة آلاف درهم في كل شهر. فكان هذا مما ساعده على التفرغ لطلب العلم والازدياد منه، وكفاه مؤنة معاشه ودنياه.
وفي سنة 213 ه توجه أبو عبيد إلى مصر مع يحيى بن معين، فسمع علماءها وكتب بها، ثم رحل إلى دمشق طلبا للعلم.
وبعدها عاد إلى بغداد، ثم قصد مكة سنة 219 ه، وأقام بها حتى مات
وفاته
خرج أبو عبيد إلى مكة سنة تسع عشرة ومائتين، وحج، ولم يزل بها إلي أن توفي سنة 224 ه. في يوم الأربعاء 12 المحرم، كما في التونسية.
وقد ذكر أن أبا عبيد قدم مكة حاجا، فلما قضي حجه وأراد الانصراف اكترى إلى العراق، ليخرج صبيحة الغد. قال أبو عبيد. فرأيت النبي صلى الله عليه وسلم في رؤياي وهو جالس، وعلى رأسه قوم يحجبونه، والناس يدخلون ويسلمون عليه، ويصافحونه قال: فكلما دنوت لأدخل مع الناس منعت، فقلت لهم: لم لا تخلون بيني وبين رسول الله صلى الله عليه وسلم؟ فقالوا لي: لا والله، لا تدخل عليه ولا تسلم عليه وأنت خارج غدا إلى العراق، فقلت لهم: إني لا أخرج إذا، فأخذوا عهدي، ثم خلوا بيني وبين رسول الله صلى الله عليه وسلم، فدخلت وسلمت عليه، وصافحني، وأصبحت ففسخت الكراء وسكنت مكة.