太平天国运动期间，刘永福参加了广西当地的义军，反抗清朝的统治，后来这支起义军受到清朝正规军的围剿，在吴亚终的率领下，起义军被迫逃亡到中国与越南的的边境地带。吴亚终死后，这支军队分为黄旗军、黑旗军和白旗军，黑旗军的将领就是刘永福。为了在越南获得稳定的根据地，刘永福的黑旗军被阮朝收编，越南嗣德帝允许黑旗军驻扎在保胜地带。
此时，正值法国人入侵越南期间，黑旗军遂成为越南境内反抗法国殖民统治的一支重要武装力量。1883年12月，中法战争爆发，法国军队在越南发动了猛烈的攻势，企图占领整个越南。在法军的攻势之下，清军节节败退，清朝屡次要求黑旗军撤回到广西省境内，但被刘永福拒绝，黑旗军继续在当地从事抗法斗争。
因越南境内各路清军不断失利，1884年，清政府急调广西总督冯子材亲赴战场，指挥作战。1885年，法国军队猛攻镇南关，刘永福率领黑旗军支援冯子材，在黑旗军的帮助下，清军大获全胜，取得镇南关大捷，法军节节败退。清军乘胜攻击，攻克凉山、屯梅等地并准备攻克河内。法军失败的消息传到了欧洲，在法国国内引起了震动，法国总理茹费理被迫辞职。正当清军大获全胜之际，清政府却提出了议和，1885年6月9日，清政府与法国人签订了《中法新约》。

《中法新约》签订后，清政府正式放弃了对越南的宗主权，同时清军也从越南撤离，在清军撤离越难之际，清政府还要求黑旗军也撤出越南，黑旗军有两千余人跟随刘永福撤回到清朝境内。黑旗军撤回到清朝境内以后，受到清政府的严加管制，大部分的士兵被遣散回家，只留下三四百人的编制。
1894年，甲午中日战争爆发，这个时候清政府想起了黑旗军，希望刘永福再次组织黑旗军保卫台湾，刘永福率领黑旗军达到台湾，准备抗击日本侵略者，但是在1895年的时候，清军就已经战败了，被迫把台湾割让给日本。当时黑旗军没有撤离台湾，而是继续留在台湾抗击日本侵略者。骁勇善战的黑旗军给日本造成了不小的伤亡，但作为民间武装的黑旗军终不敌日本的正规军。

在战事失利的情况下，刘永福乘坐英国轮船撤回到厦门，在日本人占领台湾以后，黑旗余部则被清政府解散，因为清政府始终对黑旗军不放心。黑旗军参加了中法战争、中日甲午战争，为保卫祖国的边疆做出了杰出的贡献，我们不应该忘记黑旗军的历史。

黑旗我压上了小依依

依依惜别

依依不舍

依哎呀呀

镇南关大捷，打的不容易，法军败退，但是清军伤亡惨重