劉黑闥行軍施政，都一如竇建德舊法，但“攻戰勇決過之”。無奈何，秦王李世民又親自率兵攻討。洺水一戰，李世民又折親信大將羅士信，不得不堅壁擁兵。面對劉黑闥數次挑戰，以勇勝聞名的李世民也不得不避其鋒芒。

不久，劉黑闥軍糧已盡，擁全軍奔來決戰。李世民派人掘開洺水，淹死劉黑闥數千人，馬上的勁騎頓時成為水中沉石，又被殺萬餘人。最後，劉黑闥只剩下一千多號人，亡奔突厥。

兩個多月後，劉黑闥借得突厥兵，又殺個回馬槍，高祖李淵再遣大軍迎擊，全為劉黑闥擊破，淮陽王李道玄也死於陣中。一時之間，河北諸州復叛，旬日之間，劉黑闥“盡復故城”，建都洺州。

一向以勇武善鬥自詡的齊王李元吉心中十分害怕劉黑闥，擁兵逗留不前。倒是太子李建成不斷督兵進討，連戰大捷。轉年（武德五年）二月，李建成大破劉黑闥於館陶，又攻之於永濟渠，一路追擊。劉黑闥馬不停蹄，跑到饒陽城下，左右只剩一百多人，又被打回原形。

饒陽城刺史葛德威本是劉黑闥任命的官員，但此刻兵敗落魄，劉黑闥也不敢冒然進城。葛德威“謬為誠敬，涕泣固請”，一定要請老主人進城吃飯。餓得眼睛發藍的眾人禁不住酒食之香的誘惑，進城吃飯。剛剛坐下，雞腿還未入嘴，葛德威師重兵包圍諸人。

束手被擒之時，劉黑闥大罵“狗輩負我”。但亂世之中，各思自保，他自己最終成為葛德威求取富貴的最佳禮物。太子李建成馬上派人斬殺劉黑闥，山東遂定。

義結金蘭　富貴成隙——杜伏威與輔公袥

杜伏威，齊州章丘人。自少落拓，不治產業。杜伏威自少年時代，家裡窮得叮噹亂響，絕對的貧下中農出身。他常常穿牆破戶偷東西，以此為生。所喜的是，杜伏威有個刎頸之交的鐵哥們輔公袥。這位輔公子的姑姑是個養羊為生的大財主，輔公袥常常從姑姑家裡的羊圈偷羊送給杜伏威吃，少年義氣，惺惺相惜。見圈裡羊只越來越少，輔公袥的姑姑氣壞了，一狀告到“派出所”，郡縣的捕快就四處搜抓兩個人。情急之下，兩個人“遂俱亡命，聚眾為群盜，時年十六”。也就是在現今還上高中的年紀，兩個少年已經成為“起義軍”小首領了。

杜伏威打仗很勇敢，出則居前，入則殿後，眾人鹹服，不久就被推為頭領。隋煬帝大業九年起（公元613年），杜、輔二人自稱將軍，在江淮一帶寇掠往來。在此期間，他們用計用力，兼併了苗海潮、趙破陣等原本人數多於自己的大股“遊盜”，並大破隋朝江都留守宋顥大兵。隋煬帝聞知大怒，親派右御衛將軍陳稜以精兵八千攻討杜、輔二人。

陳稜雖是御林軍出身，兵鎧精良，都十分懼怕杜、輔的軍士，大軍到後根本不敢交戰。杜伏威派人給陳稜送去一套婦人衣服，並在信中稱陳稜為“陳姥”，以此激怒這位御林軍軍官。

陳稜大怒，揮軍前進。杜伏威也領兵迎前，親自躍出陣前挑戰。陳稜有個部將是神箭手，一箭正中杜伏威前額。杜伏威大怒，在馬上用手指著朝自己放冷箭的軍校，說：“不殺汝，我終不撥箭！”於是馳馬大呼，直衝入陳稜陣中。隋兵人馬兵器當時都佔絕對優勢，就是無膽打仗。杜伏威匹馬衝來，紛紛掉頭往回跑。杜伏威一直賓士到朝他射箭的軍校面前，“使其撥箭，然後斬之”。連血也不擦試一下，杜伏威一手拿著人頭，一手執槍，又衝入陳稜陣中，殺數十人。陳稜軍大潰，八千人被殺得一個不剩，最後這位御林軍軍官隻身一人因馬好才得免跑掉。

杜、輔二人乘勝破高郵、歷陽，一時間各路“小盜”爭來附之，聲威震江南。他們又親選五千人為敢死之士，號為“上募”，厚餉精騎，同甘共苦。每遇攻戰，就下令這些“上募”發擊，戰罷檢查，如果這些人有槍箭創傷在後背的，一律就地斬首（說明這些人是逃跑時被人自後擊中）。所獲財物，全部賞賜將士，故而人自為戰，所向無敵。

宇文化及在江都殺掉隋煬帝后，聞知杜伏威大名，任命他為歷陽大守，“伏威不受”，可見也是個知曉倫理大節的英雄。在洛陽繼位的越王楊侗很器重杜伏威，拜他為東南道行臺尚書令，封楚王。後來王世充篡逆，毒死楊侗，杜伏威向唐朝投降，被唐高祖李淵拜為東南道行臺尚書令、上柱國，封吳王，賜姓李。

杜伏威投唐後十分賣力，與輔公祏一起把江淮一帶稱雄的李子通、汪華等武裝均徹底清滅掉，盡有江東、淮南之地。

在杜伏威軍中，大家都知道知道輔公袥是他的生死哥們，全營上下都呼輔公祏為“伯”，像畏敬杜伏威一樣畏