相傳，常遇春率軍隊進駐九華山時，適逢天旱無雨，士兵飲水困難。

於是，他親自帶領將士，在九華山下尋水，忽然在五溪橋南邊挖出六股泉水，解決了部隊飲水的困難。這六股泉水，是否為常遇春所發現，無從查考。

但是，常遇春結寨六泉口，大戰九華山，卻是千真萬確的。

後人有詩可證：“偏仄旁山行，溪流咽不嗚。何年留古砦，猶復說開平。”

勇猛敢戰，這是常遇春戎馬生涯的最大特點，並且貫穿於歷次重大戰役。

至正十五年｛1355年｝六月，常遇春投奔朱元璋不久，朱元璋即率軍渡江南下。

在著名的採石磯｛在今馬鞍山市之南、長江東岸｝戰役中，面對著元朝水軍元帥康茂才的嚴密防守，常遇春乘一小船，在激流中冒著亂箭揮戈勇進，縱身登岸，衝入敵陣，左右衝突如入無人之境。朱元璋即揮軍登岸，元軍紛紛潰退，緣江堡壘紛紛歸附。

朱元璋乘勝率軍，攻佔太平。次年三月，又攻佔集慶，改為應天府。集慶及其周圍地區的佔領，使朱元璋獲得一塊財富之區，為在江南的繼續開拓和壯大，奠定了基礎。

這一階段的戰鬥，常遇春鋒芒初露，立了頭功。

他開始受到朱元璋的信任，由渡江時的先鋒升至元帥。

據史料記載，元至正二十年｛1360年｝初，朱元璋令常遇春與另一名大將徐達，率重兵鎮守池州防備。陳友諒統其兵眾，部署襲取池州。

徐達偵悉陳友諒的行動，令常遇春率精兵萬人，設伏於六泉口。

陳友諒兵至，全力猛攻池州城。徐達率領守軍開城出擊，常遇春伏兵掩其後，大破陳友諒軍，斬首萬餘，擒捉三千，使得陳友諒敗走江州｛九江｝。

西征陳友諒，常遇春再立大功。

當時陳友諒佔據上游，精兵大艦，雄心勃勃，是朱元璋開拓事業的主要威脅。

至正二十年｛1360年｝五月，陳友諒率水軍數十萬，直取應天，在南京城西北的龍灣與朱元璋軍展開一場惡戰。

朱元璋以弱御強，設計用伏，誘敵深入。

常遇春奉命與馮國勝率帳前五翼軍三萬人設伏，為全軍主力。經過一場鏖戰，在龍灣登陸的陳友諒兵，遭到常遇春、馮國勝伏兵的衝殺，死傷慘重，潰不成軍。

正值江水落潮，龍灣水淺，陳友諒一百多艘鉅艦全部擱淺。朱元璋揮水陸軍並進，陳友諒大敗而逃。龍灣大捷，朱元璋轉危為安，並壯大了力量。

常遇春大破敵陣，戰功卓著，不久就升行省參知政事。

龍灣戰後的第三年｛1363年｝，陳友諒以號稱六十萬大軍傾巢來攻，在鄱陽湖與朱元璋軍進行了一場持續三十六天的決定生死存亡的水上大決戰。

朱元璋先是派兵封鎖敵人的歸路。交戰中，陳友諒軍船大、堅固，但速度慢，朱元璋軍船小、速度快，操作靈活，兩軍相持，難解難分。

有一次，朱元璋的座船擱淺，陳友諒的大將張定邊率船隊來圍攻，情況危急。

常遇春奮勇當先，射傷張定邊，又用自己的戰船撞擊朱元璋的座船，使其脫離淺灘。

戰鬥中常遇春奉命積極組織火攻，發揮小船的優勢，乘風縱火。陳友諒的艦隊被燒得烈焰沖天，兵將損失過半，湖水盡赤。

陳友諒率殘艦撤往湖口，又受到朱元璋諸將的追擊，以及常遇春的迎頭堵截。

陳友諒在混戰中，被流矢射中死去。這場決戰扭轉了雙方力量的對比，陳友諒覆滅，使得朱元璋成為群雄中之強者。常遇春因功受賞，得金帛田地甚厚。不久，升為平章政事。

這次戰役，不僅恢復了皖南軍事要地太平縣，也使漢軍龜縮於武漢不敢再犯。

論功行賞，常遇春功勞最大。朱元璋誇讚他說：“當百萬眾，摧鋒陷堅，莫如副將軍。”

常遇春當年設伏的地方，就在今天九華山的大古嶺、鳳凰嶺一帶，並且在百丈潭前留有詩文：“赤汗透徵袍，何如孝隱高。結廬親冢側，只為報劬勞。”

至正二十四年｛1364年｝七月，常遇春先是隨徐達率軍攻佔廬州。接著，又與鄧愈會合，征服江西的新淦、吉安、贛州、南安等郡縣，嶺南韶州、南雄等地，望風降附。

第二年五月，常遇春又奉命與鄧愈率軍，攻取湖北的安陸、襄陽。

十一月，常遇春與徐達率軍攻佔了泰州。

至正二十六年｛1366年｝八月，朱元璋以徐達為