西路由胡林翼率領，從益陽奔赴常德。代理寶慶知府魁聯熟悉軍事，清廷命他補任嶽州知府，與胡林翼一起，分別率領兵勇。代理提督多順帶兵返回常德。

東路由江忠淑和林源恩率領，從平江出發，奔赴湖北崇陽和通城。

湘軍各路部隊出發。胡林翼的西路，幾乎沒有遇到什麼阻力。前面說過，太平軍聽說湘軍大舉出動，已經主動放棄了常德和澧州。

中路的陸師由塔齊布率領，於7月16日在距嶽州不到百里的新牆擊敗太平軍，攻破三座土城。

中路陸師向北挺進，直攻嶽州。

7月19日，羅澤南所部在嶽州以南的九塘嶺紮營。這時羅澤南只有兩營部隊，要分防八路。太平軍日夜來攻，羅澤南所部一直沒有主動出擊。太平軍以為他害怕，塔齊布也認為這個書生怯陣。他幾次用激將法動員羅澤南出戰，羅澤南不為所動，更加閉壘不出。

7月21日，中路水師由褚汝航率領，渡過洞庭湖。前隊營官褚汝航、夏鑾、彭玉麟、楊載福以及鄉導官何南青，率領二千人，在湖中遭遇太平軍，便駐紮在萬石湖。

7月23日，中路水師分為五隊進發。蘇勝率領先鋒船奔向南津，夏鑾率部隨後，彭玉麟把船隊埋伏在君山，楊載福把船隊埋伏在雷公湖。何南青樹起旗幟，吹響號角，在後面列陣。太平軍掠奪商船，裝載大炮，在南津擺開陣勢，雙方相持，湘軍沒有前進。

湘軍的舢板小船奔向港內，太平軍紛紛出戰。湘軍舢板佯裝退卻，引誘太平軍。太平軍的船隻魚貫而上，彭玉麟等部伏兵突然殺出，包抄打擊。商船在水中旋轉，不利於作戰，後退則互相碰撞。湘軍趁機燒燬太平軍船隻一百多艘，奪得三十四艘，以及十三尊大炮。當天夜間，南津及城內的太平軍潛逃。

7月24日，塔齊布再次約羅澤南聯合攻擊太平軍軍營。這是一個令塔齊布和羅澤南兩人都很難忘的日子，他們對彼此的真正認識和理解，就是從這一天開始。

湘軍與太平軍交戰以後，稍稍退卻，李續賓斷後。太平軍的大批追騎殺到，李續賓左右只有幾名隨從。他對隨從們說：“別慌，千萬不要逃跑！”

李續賓率領幾名騎兵緩步走上山岡，太平軍竟然不敢逼近。不久，撤退的湘軍重新集結，李續賓率領隨從衝向敵陣，直奔太平軍的大旗，斬殺幾名首領，奪得軍旗。

太平軍隊伍大亂，爭搶登山。李續賓說：“是時候了！”說罷，舉劍策馬，揮師衝鋒，集結的部隊迅速跟進。

李續賓衝在前面，又斬殺一名太平軍首領，奪得軍旗。這一氣下來，向北追出十幾裡。

1854年，咸豐四年（16）

同一天，太平軍分兵奔赴鳳凰山，塔齊布督率將士迎擊，彭三元率部出奇抄截，分路迎擊，斬殺六百多名太平軍。

第二天，塔齊布來到羅澤南的軍營，指著李續賓的部隊說：“好勇！好勇！”

然後，塔齊布與李續賓交談許久，感嘆道：“李君是名將啊！”

李續賓跟隨羅澤南從軍以來，一直以弟子自居，謙恭有加，從不拋頭露面，沒有引起人們的關注。此戰以後，他以善戰而聞名。

羅澤南認為大橋是太平軍必爭之路，便率部死守大橋。

太平軍派大軍爭奪高橋，雙方兵力對比過於懸殊。羅澤南和李續賓的一千人守護高橋，太平軍前來攻奪的軍隊卻足有一萬人。羅澤南從容排程，派五百人守營，五百人迎戰。前敵五百人又分為三路，每路不過一百多人，但是主攻、旁擊、抄尾，部署得井井有條。就憑這種佈置，竟然三戰三捷，斬殺上千名太平軍，力保大橋不失。部將之中，李續賓功勞最大。

羅澤南不輕易出手，一出手就勇猛非常。訊息傳播開來，羅澤南便以勇敢無畏和足智多謀而著稱。

此戰以後，塔齊布和羅澤南在湘軍中齊名，再也沒人輕視湘軍裡帶兵的書生了。而這種以寡擊眾、豁出死命扎硬寨、打硬仗的精神，在羅澤南征戰四年的軍事歷程中，竟由始及終。

滿洲鑲黃旗人塔齊布是個職業軍人，像他這樣的職業將領，按照湘軍的建軍原則，是不能使用的。他之所以能夠在湘軍中站穩腳跟，是因為他在湘軍初建時期，幫助湘軍訓練，對抗綠營兵搗亂，起了重要的作用。他對曾國藩的忠誠，也使曾國藩非常感動。但塔齊布對湘軍只用書生帶兵打仗的原則，並沒有真正地認同，直到他發現他本來瞧不起的儒將羅澤南之流，和他自己一樣驍勇善戰。

在湘北和鄂南並肩作戰的