匈之間又爆發了較大規模的衝突。張騫因為在匈奴生活了十多年，熟悉匈奴境內的地形和水草的分佈。漢武帝就命令他隨同大將軍衛青一同北擊匈奴。

張騫熟悉匈奴的情況，這次出兵，全靠他在前面領路，人馬才不至於受渴捱餓。衛青單獨地向漢武帝奏明瞭張騫的功勞，漢武帝馬上封張騫為博望侯。

張騫後來在對匈奴戰爭中因為誤時被奪去了侯位，被貶為庶人，但漢武帝還是常常召見他到宮中，詢問有關西域的事。

西域各國原先飽受匈奴人的欺壓，看到漢朝把匈奴人打敗了，他們就開始動搖了對匈奴的畏懼感。一等到匈奴退到漠北，失了勢，有的國家就準備不再向匈奴人進貢。

漢武帝看到去西域的道路已經打通，而且聽說西域小國都有與漢通好的願望就準備派張騫第二次出使西域，宣揚漢朝的國威。

張騫聽說漢武帝再派他去西域，求之不得。他先向漢武帝提供了這次出使的大略意義。張騫說：“在匈奴人的西邊有個烏孫國（新疆溫宿縣以北、伊寧縣以南的地區），也受匈奴壓制的。烏孫王國的國王昆莫本來是匈奴汗國的藩屬，後來逐漸強盛起來，不肯再接受匈奴人的支配。匈奴人屢次進攻都不能得手，因而舍它而去。而今，匈奴受到了大漢的重創，而故渾邪王居住的地區已成真空。這裡本是烏孫王國的故土，後來被月氏人趕到西邊。少數民族的習俗是依戀舊居，又貪圖中國賞賜的財物。如果趁著這個機會，用厚重的禮物去誘惑他們，請他們重返故土，與大漢結盟；成為友邦，勢將聽從大漢，那樣的話，無疑是切斷了匈奴汗國的右臂。而且只要烏孫�