漢武帝初年，張騫應徵去找月氏國，聯繫夾攻匈奴的事。但是要到月氏，一定要經過匈奴佔領的地界。走了幾天，被匈奴人抓住，全都做了俘虜。後來，瞅匈奴人不防備，張騫和堂邑父騎馬逃了。
他們一直向西跑了幾十天，沒找到月氏，卻闖進了另一個國家叫大宛（在今中亞細亞）。
他們見了大宛王，大宛王很歡迎他們，派人護送他們到康居（約在今巴爾喀什湖和鹹海之間），再由康居到了月氏。
到了月氏，月氏國王聽了張騫的話，不感興趣。張騫和堂邑父在大月氏住了一年多，還到大夏去了一次，看到了許多從未見到過的東西。但是他們沒能說服大月氏國共同對付匈奴只好回來。經過匈奴地界，又被扣押了一段時間，幸好匈奴發生了內亂，才逃出來回到長安。
後來，漢武帝又派張騫為使者，帶著禮物從蜀地出發，去結交天竺。張騫把人馬分為四隊，分頭去找天竺。四路人馬各走了兩千里地，都沒有找到。
衛青、霍去病消滅了匈奴兵主力，匈奴逃往大沙漠北，西域一帶許多國家看到匈奴失了勢，都不願意向匈奴進貢納稅。漢武帝趁這個機會再派張騫去通西域。於是，張騫和他的幾個副手，拿著漢朝的旌節，帶著三百個勇士，每人兩匹馬，還帶著一萬多頭牛羊和黃金、錢幣、綢緞、布帛等禮物去結交西域。
從此以後，漢武帝每年都派使節去訪問西域各國，漢朝和西域各國建立了友好交往。西域派來的使節和商人也絡繹不絕。中國的絲和絲織品，經過西域運到西亞，再轉運到歐洲，後來人們把這條路線稱作「絲綢之路」。