Унинг тўлиқ исми Муҳаммад ибн Исо ибн Савра ибн Мусо ибн аз-Заҳҳоқ Абу Исо ас-Сулламий аз-Зарийр ал-Буғий ат-Термизий бўлиб, ҳижрий 209 (мелодий 824) йили Термиз яқинидаги Буғ (ҳозирги Сурхондарё вилоятининг Шеробод тумани ҳудудида жойлашган) қишлоғида ўрта ҳол бир оилада таваллуд топган. Марказий Осиёлик машҳур тарихчи Абу Саад Абдулкарим ас-Самъоний (1113—1167) ат-Термизий Буғ қишлоғида вафот этганлиги учун ал-Буғий тахаллуси билан ҳам аталганини, олимнинг кўп йиғлаганидан умрининг охирларида кўзи ожиз бўлиб қолганлигидан аз-Зарийр (кўзи ожиз) тахаллусини олганлигини ҳам қайд қилади Лекин эл орасида ат-Термизий номи билан машҳур бўлишига сабаб унинг бутун ҳаёти ва фаолияти (ёшлигидан бошлаб) Термиз шаҳри билан чамбарчас боғлиқ бўлганлигидан, шунингдек, олим туғилган Буғ қишлоғи Термиз шаҳрига яқин бўлиб, маъмурий-идоравий жиҳатдан унга мансуб қишлоқлардан эканлигидан деб изоҳлаш мумкин.
Ат-Термизийнинг оиласи ва ота-онаси ҳақида манбаларда аниқ маълумотлар келтирилмаган. Тарихчилар унинг «Бобом асли марвлик эди, у киши Лайс ибн Сайёр замонида яшаган, сўнг у ердан Термизга кўчиб келган», — деган фикрини келтириш билан чегараланадилар. Шунингдек, ат-Термизийнинг кўзи ожизлиги хусусида ҳам ёзма манбаларда турли-туман маълумотлар келтирилган. Баъзи муаллифлар уни туғма кўзи ожиз бўлган деса, кўпчилик муаллифлар олимнинг кейинчалик, умрининг охирларида кўзи ожиз бўлиб қолганлигини ёзадилар.
Ат-Термизий ёшлигидан ўта тиришқоқ, идрокли ва заковатли бўлганлиги боис ўз тенгдошлари ичида ажралиб турган. Илмга ўта қизиқиши туфайли ўша даврнинг кўпгина илмларини, айниқса, ҳадис илмини чуқур эгаллаган. Термиз, Самарқанд, Марв ва Марказий Осиёнинг бошқа йирик шаҳарларида истиқомат қилган машҳур уламо ва муҳаддислар асарларини қунт билан ўрганган, қўшни Балх ва Ҳайратон шаҳарларидаги илм аҳллари билан илмий алоқалар ўрнатилишига муносиб ҳисса қўшган олимлардан биридир. Ёшлигидан илм-фанга ташна ат-Термизий 850 йилдан, яъни йигирма олти ёшидан бошлаб узоқ юртларга, қатор хорижий мамлакатлар ва шаҳарларга сафар қилади. Жумладан, у Ҳижозда — Макка ва Мадина, Ироқ, Хуросоннинг қатор шаҳарларида кўплаб муҳаддис, уламолар билан мулоқотда бўлиб, улардан таълим олади, қизғин илмий мунозара ва баҳсларда иштирок этади. Тарихчи Шамсуддин аз-Заҳабийнинг таъкидлашича, ат-Термизий Миср ва Шомни шахсан зиёрат қилмаган, шу боисдан ҳам бу мамлакатлар уламоларидан билвосита ҳадислар ривоят қилган. Узоқ йиллар давом этган сафарлари чоғида ат-Термизий нафақат ҳадис илмидан, балки илм ал-қироат, ал-баён, фиқҳ, тарих каби фаннинг бошқа соҳалари ҳамда кўплаб устозлардан сабоқ олади.
Шу билан бир қаторда ат-Термизий пайғамбар алайҳиссалом ҳадисларини тўплашга алоҳида эътибор билан қарайди. Бу борада у ҳар қандай қийинчиликларга бардош беради. У ўзи ўқиган ёки бирор ровийдан эшитган ҳадисини алоҳида қоғозларга қайд этиб борар, уларнинг асли ва иснодини изчиллик билан аниқлаб тўғрилигига тўлиқ ишонч ҳосил қилсагина махсус қоғозларга қайд этарди. Ҳадисларнинг тўғрилигига шубҳа бўлганда уларни алоҳида ажратиб ёзарди. Шу тариқа ҳадислар саҳийҳ (тўғри, ишончли), ҳасан (яхши, маъқул), заийф (бўш, ишончсиз), ғарийб (ғалати) каби хилларга ажратилган.
Ҳадис илмини эгаллашда ва такомиллаштиришда имом ат-Термизий ўз даврининг машҳур муҳаддисларидан таҳсил олди. Унинг устозларидан Имом ал-Бухорий, Имом Муслим ибн ал-Ҳажжож, Абу Довуд, Қутайба ибн Саъид, Исҳоқ ибн Мусо, Маҳмуд ибн Ғийлон, Саид ибн Абдурраҳмон, Муҳаммад ибн Башшор, Али ибн Ҳажар ал-Марвазий, Аҳмад ибн Мунийъ, Муҳаммад ибн ал-Мусанно, Суфён ибн Вақийъ ва қатор таниқли муҳаддисларни кўрсатиш мумкин.
Имом ат-Термизий ўз даврининг етук муҳаддиси сифатида кўпгина шогирдларга устозлик ҳам қилган. Унинг шогирдларидан Мақҳул ибн ал-Фазл, Муҳаммад ибн Маҳмуд Анбар, Абу ибн Муҳаммад ан-Насафюн, Ҳаммод ибн Шокир, Хайсам ибн Кулайб аш-Шоший, Аҳмад ибн Юсуф ан-Насафий, Абул-Аббос Муҳаммад ибн Маҳбуб ал-Маҳбубий каби етук олимларни кўрсатиш мумкин. Юқорида кўриб ўтганимиздек, ат-Термизийнинг устоз ва шогирдлари орасида турли мамлакат ва элат вакиллари борлиги сезилиб турибди. Шу нуқтаи-назардан қаралганда, узоқ ўтмишда ҳам илм-фаннинг тараққиёти ва маърифат уруғларини тарқатиш борасида турли ўлкаларнинг вакиллари якдил бўлиб фаолият кўрсатиб самарали ҳамкорлик қилганликлари, умумбашарий қадриятлар равнақи йўлида ҳақиқий байналмилаллик руҳи мавжуд бўлганлиги ҳозирги давримиз учун ҳам ибратли бир ҳолдир.
Ат-Термизий зеҳнининг ўткирлиги ҳамда қувваи-ҳофизаси кучлилиги хусусида тарихий манбаларда кўплаб мисоллар, ривоятлар келтирилади. Жумладан, араб тарихчиси Шамсуддин аз-Заҳабийнинг (1274—1347) «Тазкират ул-ҳуффоз» («Ҳофизлар ҳақида тазкира») номли асарида қуйидаги ҳикоя келтирилади: Абу Исо Муҳаммад ат-Термизий Маккага ҳажга бораётганида йўлда машҳур муҳаддислар билан мулоқотда бўлади ва уларнинг биридан ҳадислардан сабоқ беришини илтимос қилади. У олим: «Бўлмаса қоғоз-қалам ол», деган. Аксига олиб шу пайт ат-Термизий қалам топа олмаган ва олим рўпарасида ўтириб эшитган ҳадисларини ёзиб олаётгандек қоғоз устида қўлини ҳаракат қилдираверган. Олим эса турли-туман ҳадислардан етмишга яқинини ҳикоя қилган. Шу орада олим қоғозга қараб унда ҳеч қандай ёзув йўқлигини кўрган ва ат-Термизийнинг бу ишидан жаҳли чиққан. Ат-Термизий шунда бамайлихотир «Сиз айтган ҳадисларингизни ёддан айтиб берайми?», — дегану ҳозиргина олимдан эшитган ҳадисларнинг ҳаммасини бирин-кетин такрор айтиб берган. Ат-Термизийнинг хотираси кучлилигидан ўша олим ҳайратга тушиб қойил қолганлигини билдирган.
Бу хусусда яна бир ҳикоя ат-Термизийнинг сўзига асосланиб келтирилади: Маккага кетаётганимда бир шайх тўплаган ҳадислардан икки қисмини ёзиб олган эдим. Тасодифан ўша шайх билан учрашиб қолдим. Ёзиб олинган ҳадислар мазмунан уларга ўхшаш-у, бироқ бошқа ҳадислар экан. Салом-аликдан сўнг ҳадисларни айнан унинг ўз оғзидан эшитишни илтимос қилдим. У рози бўлиб, ҳадисларни ҳикоя қила бошлади. Кейин менга қараб қўлимдаги оқ қоғозни тоза, яъни ҳеч нарса ёзилмаган ҳолда кўргач: «Бу қилиғинг учун мендан уялмайсанми?», — деди. Мен маъзурона ҳолда бор ҳақиқатни айтиб: «Сиз ҳикоят қилган ҳадисларнинг ҳаммасини ёддан биламан», дедим ва уни бирин-кетин сўзма-сўз айтиб бердим. Шайх эса сўзларимга ишонқирамасдан «Нима, менинг ҳузуримга келишдан олдин уларни махсус ёдлаган эдингми?», — деди. «Йўқ», деб жавоб қилиб: «Агар сўзларимга ишонмасангиз, бошқа ҳадислардан айтинг», дедим. Шунда у ўзининг ғаройиб ҳадисларидан қирқтасини ҳикоя қилди. Мен унга уларни ҳам бошдан охир бирма-бир айтиб бердим. Шунда у: «Сенга ўхшаганини ҳеч қачон кўрмаган эдим», — деди.
Ат-Термизий кўплаб хорижий мамлакатларга қилган сафар чоғида ҳадисларни тўплаб, китоблар таълиф қилишга ҳам киришган. Сафардан қайтгач, олиму фузалолар билан илмий мунозараларда қатнашади, кўплаб шогирдларга устозлик қилади. Айниқса, машҳур муҳаддис аллома ал-Бухорий билан кўплаб илмий баҳслар юритиб ундан истифода қиладики, бу ҳақда ат-Термизий ўзининг «Ал-Илал» китобида ҳам ёзади. Ат-Термизийнинг кўпчилик таснифлари, жумладан, унинг машҳур асари «Ал-Жомиъ» ҳам ўз ватанига қайтганидан кейин яратилган. Имом ат-Термизий 892 йилда Термиз яқинидаги Буғ қишлоғида вафот этган ва шу жойда дафн қилинган.