為了納這個投名狀，於1869年率領黑旗軍配合越南政府軍和曾經的吳亞忠部農民軍戰友黃崇英部“黃旗軍”攻戰，在初步獲得勝利後，越南政府就決心驅逐劉永福部，並且邀廣西提督馮子材會剿。聞此訊後極度恐慌的劉永福馬上向越南政府哭求輸誠，表示願意一心一意的幫助越南政府徹底幹掉曾經在吳亞忠部的戰友黃崇英，只求千萬不要驅逐他。終於藉此得以在靠近中國邊界的保勝地區站穩腳跟，在繁忙的紅河水道上設了收稅關卡，除了越南政府按年發放的“基本工資”外每年可以收取八萬兩白銀的買路錢，黑旗軍上下歡喜不已，因為如今能靠山吃山、靠水吃水，終於不用再過之前那居無定所、食不果腹的生活了。

後世的許多人一直在指責清朝政府對待黑旗軍的態度是“炮灰般的利用”。不過，這並不是沒有原因的。看了劉永福那“牆頭草”一般的個人履歷，是個人都會對他的“忠誠度”打上一個問號：都說“三姓家奴”絕對是可惡的，古有三國時的呂布，南北朝時期的侯景，大清開國之初亦有吳三桂、耿精忠、尚可喜父子、李成棟等，不過論起換主子的頻率，恐怕這些人在劉永福面前還不過是“小巫見大巫”。劉永福何止是“三姓”，數得上號的農民軍就投了五家，還沒算上越南政府和大清國。就算是生活所迫，但是僅僅為了個人的身家性命而隨便玩“走馬燈”的話，這種行為別說是放在禮教第一、道德至上的大清國了，在越南都未必受待見。在忠誠度被奉若神明的這個年代，牆頭草是最受鄙視的，無論官與賊都是如此，而劉永福在大清國的官吏甚至百姓的眼中，缺乏的恰恰就是忠誠。

在陸續收容來自大清國的流民、盜匪、通緝犯、逃兵以及被清朝正規軍打散的天地會、太平軍殘部後，劉永福將這些散兵遊勇組織起來，結合當地農民（這是地地道道的“發動群眾”），編練了一支組織嚴密、農戰結合、訓練（依照匪寇的標準）尚好的軍隊，並且沿用了他在吳亞忠部時制定的黑色七星戰旗，時人稱之為“黑旗軍”。

黑旗軍的常備兵力通常維持在兩千人左右，最多兵力不超過三千，但卻迅速成為了越南北部重要的割據力量。

之所以能夠如此，是因為黑旗軍相對於越南政府軍和當地的其他華人武裝，其綜合素質相對較高（但也決不會在清軍精銳團練湘軍、淮軍甚至是綠營練軍之上，否則，果真訓練有素的黑旗軍精銳早和潛伏在廣西境內的反清勢力裡外呼應，東山再起了），並且雖然裝備了“雷明頓”單發步槍以及部分繳獲自法國人的越南僕從軍的“格拉斯”單發步槍，甚至還有少量從香港走私而來的毛瑟71步槍。黑旗軍的步槍同等單位的齊射火力甚至超過了統一裝備單發“格拉斯”步槍的法國正規軍，但是戰時彈藥難以保證。又因黑旗軍屬於農戰結合、半農半兵的團練性質武裝，其素質在同等的武裝中屬於翹楚，但比起一流的職業軍隊來，差距依然是巨大的。而且部隊從軍官到士兵的文化水平低下，基本上不具備和正規部隊進行陣地戰、攻堅戰和野戰的能力。

無力抵抗法國入侵、已經丟掉整個國土三分之一（整個南圻七省盡入法國人的囊中）的越南阮氏******把劉永福的黑旗軍當作了救命稻草。越南嗣德帝阮福時親自下詔冊封劉永永福，授予七品千戶的爵位以及保勝防禦使的官職（其實就是從法律上正式確認劉永福在當地的主人身份），劉永福算是獲得了越南政府的正式編制，“臨時工”轉成了“正式工”，黑旗軍就此成了越南的合法武裝。

一直對法國持抵制態度、內心裡不甘被法國人控制的越南嗣德帝阮福時在河內為安鄴率領的法軍攻佔後，想到了利用黑旗軍來對抗法國人，並有意無意的打算將大清帝國拖下水，他希望以此阻止法國人對越南的進一步蠶食行動。是以才有了佔據紅河航道要衝保勝的黑旗軍襲殺安鄴的事件。

黑旗軍襲殺安鄴在大清帝國的清流們看來是一件揚眉吐氣的事情，但林義哲卻明白，這次事件對中國帶來的負面影響，要遠遠大於安鄴等幾個法國人被殺的所謂“勝利”、“大捷”！

安鄴被殺之時，正值日本對臺灣蠢蠢欲動，這個時候中法兩國的關係正處在蜜月期，各個領域的合作親密無間，特別是堪稱“中法合作典範專案”的福州船政局正處在風風火火的上升時期，法國方面不願意為了越南這塊小餅和大清帝國撕破臉，自絕於這個巨大市場。林義哲為了不使抵抗日本入侵的軍事行動受到掣肘，在請洪鈞在巴黎斡旋的同時，還利用了自己和法國海軍中將孤拔的私交，好容易使事態得以平息。在隨後的抗擊日本入侵臺灣的作戰中，法國仍然