赦囚徒扞寇盜，發惡少年及邊騎，歲餘而出敦煌六萬人，負私從者不與。牛十萬，馬三萬匹，驢、橐駝以萬數齎糧，兵弩甚設。天下騷動，轉相奉伐宛，五十餘校尉。

——《漢書·李廣利傳》

趙破奴兵敗匈奴兩萬大軍全軍覆沒，李廣利攻打大宛無功而返大軍十不存一。兩路大軍的接連慘敗，雖然沒有打擊到朝廷對外出兵的信心，但在對誰用兵的問題上，朝廷卻吵成了一鍋粥，有大臣主張繼續對大宛用兵，畢竟經略西域中亞乃是漢朝的既定國策；有大臣則主張對匈奴用兵，建議將李廣利的軍隊調回，畢竟匈奴距離更近威脅更大，而大宛則距離遙遠。

漢武帝則認為，匈奴雖然距離較近，但因為早年的連番戰敗，元氣尚未恢復，再加上匈奴單于接連去世，國內統治較為混亂，短期內還無法對漢朝構成威脅。大宛則有所不同，漢朝在西域和中亞的影響力本就較小，如今既然已經發兵攻打大宛，如果連大宛這樣的小國都打不下來，那麼讓西域各國和大夏等中亞各國如何看待漢朝，到時候不僅得不到大宛的良馬，就連烏孫、輪臺等國家日後恐怕都要為難漢朝的使者了。

權衡一番後，漢武帝決定暫時擱置匈奴問題，堅持再度出兵大宛。為此，漢武帝接受了且鞮侯單于伸出的橄欖枝，以緩和漢匈關係，並將竭力反對出兵大宛的鄧光等人下獄問罪，然後準備第二次遠征。

漢武帝和大臣們商議後認為，第一次攻打大宛失敗，固然有李廣利軍事才能平庸，指揮軍隊不利的原因，但同時也與糧草運輸不足，大軍補給困難息息相關，士兵們餓著肚子打仗，焉有不敗之理。

因此，為了確保第二次征討大宛能夠取勝，漢武帝進行了充足的動員準備，不僅赦免了第一次出征的囚徒步卒，而且再度徵發了國內道德敗壞的年輕人和邊境騎兵六萬餘人，而為了確保後勤運輸，又調撥馬三萬匹、牛十萬頭、驢和駱駝數以萬計，糧草、弓弩不計其數，隨同出征的校尉也多達五十餘人。

為了策應大軍，漢武帝還增派甲卒十八萬人前往酒泉郡和張掖郡以北駐守，並新置了居延、休屠兩個縣以護衛酒泉，防止匈奴襲擾漢朝大軍。同時，徵發天下“七科適”（即戰時徵派到邊疆服兵役的七種人），運輸乾糧供應大軍，驅車載運的人眾絡繹相連到敦煌。

此外，第一次出征大宛時，李廣利探知大宛城內沒有水井，需要從城外引進活水，於是朝廷還派遣了水利工匠隨同出征，預備將大宛城外的河川改道，使其無水可用。又授任兩名會相馬的人為執驅馬校尉，準備在攻破大宛以後選取良馬。

為了此次出征，朝廷先後籌備了近一年時間，甚至攪的全國動盪不安，只為確保此次征伐大宛取勝。

太初三年（前102年）夏，李廣利再度率領大軍自敦煌出發西征，由於軍隊太多，擔心沿途國家根本無力供應大軍補給，同時也為了震懾西域各國，李廣利將軍隊分為數隊，依次穿過羅布泊後從南北兩路分別向西進發。

得知漢朝大軍再度西征，匈奴各部本有心派兵襲擊，但因漢軍兵力太多，最終被迫放棄了貿然出兵與漢軍正面作戰的想法，而是派人聯絡樓蘭，命其待漢朝大軍透過後，截擊漢朝的糧草輜重部隊，意圖將漢軍困死在西域地區。

當初，被趙破奴率七百人攻破後，樓蘭便歸降了漢朝，向漢朝稱臣納貢，匈奴自然也清楚樓蘭西域門戶的地位，於是得知樓蘭歸漢後便也出兵攻擊，樓蘭王實在沒有辦法，只能派出兩個兒子，分別前往漢朝和匈奴為質。如今匈奴命樓蘭襲擊漢軍，無疑讓樓蘭王再度陷入了兩難境地，畢竟兩邊他都得罪不起。

當時，任文率軍屯兵玉門關，為貳師將軍李廣利殿後的同時，也是為了確保漢軍後勤補給通道的安全，當他從俘虜口中得知了匈奴命令樓蘭襲擊漢軍之事後，立即將此事上奏漢武帝。漢武帝遂命任文率兵抄小路攻入樓蘭，逮捕了樓蘭王，將其押赴長安。

漢武帝責問樓蘭王匈奴之事，樓蘭王滿臉委屈的說道，“小國夾在大國之間，只能首鼠兩端以求生存”，說罷，樓蘭王便向漢武帝叩頭請罪，片刻後，又抬頭說道，“我想將我國臣民遷到漢朝境內居住，還請陛下準允。”

漢武帝認為樓蘭王所說不無道理，於是不再怪罪於他，反而好言寬慰一番，讓其不必理會匈奴威脅，若是匈奴敢發兵來攻，漢軍自會保護樓蘭安全。之後，漢武帝命人送樓蘭王回國，並希望樓蘭王替漢朝偵查匈奴動靜，樓蘭王遂千恩萬謝而去。匈奴得知此事後，從此不再信任樓蘭。

李廣利上次出征