湘军老湘营在辽宁海城一战全军覆灭后，驻扎在台湾的湘军及退役留在台湾的湘籍军人还有一万多人。台湾人民不愿做亡国奴，湘军也不愿做亡国奴。
5月20日，清廷命令唐景崧率领在台官员“陆续内渡”，撤出台湾。李经方出任割台大臣，由美方代表陪同前往台湾办理交割手续。台湾就这样被出卖了。
刘铭传电告唐景崧：“官可以不做，民心不可违，决不能拱手让出台湾，否则你们没脸去见江东父老！”
刘坤一电令驻防台湾的湘军撤消番号改为义军，打击日本军队。他说,日本占领台湾，对我国东南沿海威胁太大。
5月25日，台湾本地绅民丘逢甲等创议成立“台湾民主国”，抗击日寇侵占台湾。唐景崧知道，灰溜溜地弃官渡过海峡到内地，必定会遭国人唾骂。他出任“总统”，丘逢甲为“副总统”，刘永福被推为“大将军”，丘逢甲为“义勇统领”，立年号“永清”，寓意台湾永远是大清的。
唐景崧电奏清廷：“今之自主，为拒倭计，免其向中国饶舌；如有转机，自仍归中国。”
此时，驻扎台湾的湘军还有杨载云、王德标和罗树勋的部队。他们撤去清军番号，自己成立新楚军，在岛上的中央山脉坚持战斗。加上刘永福的黑旗军和徐骧等人的义军，总计有兵力大约七千多人，对抗在台湾的一万日军。
5月29日，日军在基隆以东的沃底登陆。
6月3日，基隆失守。
6月6日，唐景崧乘船逃回厦门。
6月8日，汉奸李春生、辜显荣等将日军迎进台北城。各地义军并起，刘永福发布抗日告示，全岛人民展开了英勇的武装反割台斗争。
日本委派的“台湾总督”桦山资纪在台北宣布就职时，扬言要把台湾全省的抗日力量剿杀干净。
日军的近卫师团很快就开始进攻新竹，杨载云的湘军和徐骧、吴汤兴、姜绍祖的抗日义军据险阻敌，坚持了大约半个月时间。接着，湘军和抗日义军在十八尖山、虎头山与日军近卫师团展开大战，损失惨重，姜绍祖阵亡，徐骧和吴汤兴率部突围。
6月下旬，宜兰、新竹相继失陷。
7月下旬，丘逢甲内渡大陆。
湘军和抗日义军誓死保卫台中。日军的两个支队进攻尖笔山之间的抗日义军，杨载云率湘军在头份庄设防，大挫日军。日军正面进攻失败，便抄袭湘军后路，截断湘军与抗日义军的联系。杨载云孤军作战，最后这支部队大部分战死，杨载云也中弹牺牲。
李惟义的湘军、黑旗军和民团在甲溪设防。日军收买台独分子，伪装义军，从背后袭击湘军。经过激战，湘军开始溃退，前方作战的义军被迫放弃阵地，义军伤亡惨重。日军攻占了台中。
8月份，日军在台中会合，开始进攻彰化，湘军与抗日义军在彰化城东八封山抵抗，这是台湾保卫战中最激烈的一场战斗。
王德标和刘德胜的五营湘军驻守中寮庄，义军防守八封山，李惟义所部防守彰化城。双方反复争夺八封山阵地，义军四位首领殉难，徐骧撤退到台南。
日军占领了八封山，居高临下，炮轰彰化城。日军进城滥杀无辜。李惟义所部与日军进行巷战，李仕高、沈仲安和杨春发三位将领战死。彰化城陷落，城内的湘军全部殉难。
刘永福赶到嘉义,指挥前线防守。他命令王德标率领七星队坚守嘉义，命令杨泗洪率领五营湘军奔赴前线。当晚，杨泗洪率部进攻大莆林，杀死几百名日军，但他本人和管带朱乃昌阵亡。
王德标率领七星营与义军联合进攻云林县城，日军弃城溃逃。王德标会合义军追击，将日军冲散为两股，一股窜入山林，被抗日义军切断退路，予以全歼；另一股则逃回彰化。
王德标和义军乘胜收复苗栗，日军撤到彰化。