1895年末；台湾北部各地抗日武装集团领导人秘密集会；台北的陈秋菊、詹振；宜兰的林维新、林李成、林大北，草岭的林火旺，金包里的许绍文，北投的杨势，三角涌的苏力，大嵙嵌的简玉和及安平镇的胡嘉猷等，以胡嘉猷为中心联合商议，决定乘日人庆祝1896年元旦松懈之际，以大屯山、观音山山顶的烽火为号，一齐起义，夺回台北，驱逐日本殖民者。据林李成的估计，日本从国内派遣援军来台需费时7日，因此抗日武装集团必须在7日内完成攻击行动。但是很不幸；起义计划被日本殖民者侦得；1895年12月7日；顶双溪守备队得知赖元来与林李成将率部起事；故采取先发制人手段进攻三叉坑；且战且退的抗日军在得到王秋鸿等500余人增援后发起反击；歼灭上原尚英宪兵大尉以下40余人。29日占领顶双溪和瑞芳；进逼龙潭堵；并阻击了来自台北、宜兰增援的日军。由于起义提前，宜兰方面林大北、林李成、林老贼、林维新、陈其山等部蜂起响应，包围宜兰，攻击苏澳。金包里的许绍文、许石、许俊亦率部袭击宪兵屯所及警察。
1895年12月28日，台北大起义领导者胡嘉猷以台北、新竹、苗栗义民各军总统的名义发布檄文，声讨日本殖民者的罪行，指出：“台湾自倭奴占据以来，数月间，到处残害淫虐、荼毒生灵，凡有血气者，皆宜同心戮力，恢复桑梓。”号召人们“捍灭倭奴，共建奇功，以邀优奖”。抗日军还规定了纪律，告诫部众：“汝等须知，此次剿倭，上报国家，下救生民，凡所过沿道各处，务必秋毫无犯，勿为奸淫、勿贪财物，唯前进灭倭奴，勿违本统军至意。”其要者如：“一、奸淫妇女者斩；二、强夺民财者斩；三、泄漏军机者斩；……八、义兵及各壮丁攻至城市，许擒杀倭贼，决不可贪利废公，若有日本仓库及商店对象，当封印保护，以待平定之时从公颁赏。”向山宽夫：《日本统治下台湾民族运动史》，中央经济研究所，东京，1987，第166页。 同时严禁危害日本人以外的外国人。由于情况突变；1895年12月31日；抗日军在台北附近地区展开猛烈进攻；包围台北；击毙殖民当局学务部官员楫取道明等6人；参加起义民众达2万多人；先后杀死日本殖民者128人；伤58人。
面对高涨的抗日形势；台湾总督桦山资纪一方面命令各地日军收缩防线；固守战略要地；一方面加紧从国内调集兵力反扑。1896年1月1日至2月2日间，日军第二师团补充兵力2000余人陆续到达基隆，与混成第七旅团及各地守备队配合展开讨伐行动。被围的台北总督府各官衙也组织起来应急，总督府军务局为第一备急队、民政局员为第二备急队、台北县职员为第三备急队、临时铁道队为第四备急队，可见当时台北的局势是多么的紧张，日本殖民者陷于狼狈的状况之下。
报复性的大讨伐开始了。日军接连攻占顶双溪、三叉坑，解除宜兰之围，击退林李成、林大北部1400余人，占领头围。在宜兰地区，大嵙坎、三角涌、铜锣园、龙潭坡、咸菜棚等地次第陷落。在战斗中，日军“沿村严密搜查房屋，持枪械刀枪抵抗者固不待言，即使未持凶器而有不稳举动者，一概枪杀，凶器全部摧毁，其房屋亦一齐烧毁”。向山宽夫：《日本统治下台湾民族运动史》，中央经济研究所，东京，1987，第168页。 结果在这次起义里，据不完全统计，被害的民众达3万以上，仅宜兰一地，“至1月28日止，被诛戮者大约1500百人，被焚房屋1万，宜兰平原大半化为灰烬”。向山宽夫：《日本统治下台湾民族运动史》，中央经济研究所，东京，1987，第168页。情形悲惨。在日本殖民者的残酷镇压下，这次北部大起义终归失败。但零星的战斗仍未间断，继续给予日本殖民者以打击。例如1897年5月8日是《马关条约》规定的国籍选择期限的最后一天，不甘做亡国奴的台湾人民奋起反抗，陈秋菊、许禄、詹振等率抗日军4000余人揭竿而起，攻击大稻埕，进抵台北城下，与日军展开激战。
第二部分武装抗日运动的展开（2）
在中南部地区；反割台斗争失败后；抗日活动仍然十分活跃。1895年10月；张臭头、张犁等人继续率部攻击日军及警察。随后，各地抗日军纷纷兴起，其中著名的领导人有简义、柯铁、黄国镇、林少猫等，活动地区北起云林，南至下淡水溪，到处给予日本殖民者以打击。1896年4月，日军第二师团撤出，其防地由第四师团接管，云林随之撤防。柯铁等乘机推简义为首，于6月14日聚集各路抗日军在大坪顶屠牲祭天，宣誓起义，号称天运元年。他们树起“祷捷上帝”、“奉清征倭”的旗帜，决定先将日军牵制在中部地区，然后乘虚分袭南北两路，把日本殖民者赶出台湾。抗日军消灭了前来侦查的日军一部，并包围了南投。惊惶失措的殖民者连忙从台中调来讨伐队增援，抗日军退入深山。残忍的日军不分青红皂白，在云林大肆烧杀焚掠，6月18～22日短短的5日间，烧毁房屋4295户，杀戮居民无数，日人声称“云林管下无良民，顺良村落皆指为匪，予以焚毁”。从而制造了台湾历史上最惨无人道的“云林大屠杀”。许世楷：《日本统治下的台湾》，东京大学出版会，1972，第178页。
面对日军的暴行，台湾人民更加满怀义愤地加入抗日军的行列，抗击日本殖民者。柯铁、简义乘势号召全台人民起来驱逐日本殖民者。6月30日攻占林圯埔宪兵屯所；30日袭击斗六，当地农民操农具、竹枪加入战斗；7月3日，300余抗日军从市街一角突入鹿港，辜显荣保良局所属壮丁团一部临阵起义，调转枪口向日本殖民者开火；在集集，13名宪兵被击毙；在斗六，日军守备队长以下80人战死，167人负伤，被迫退出阵地，抗日军占领斗六，为此佐藤常政陆军少佐等两名将校受到了军法审判。
斗六陷落的消息传到台中，日军第二旅团本部于7月1日派出讨伐队，第二天攻占斗六，但由于孤军深入，旋即退出。台湾总督府再派遣特别讨伐队接连进攻员林、北斗、斗六，重开云林支厅，发布安民告示。14日进逼林圯埔，抗日军退守铁国山。18日，日军以优势兵力猛攻大坪顶，抗日军被迫撤入深山之中。与此同时，日本殖民者还通过辜显荣向简义进行招降，结果在1896年11月19日简义归顺，但随从仅二人，所造成直接损失并不大。在此情形下，柯铁起而自称“奉天征倭镇守台湾铁国山总统各路义军”，重整队伍，发布檄文，表明了继续抗日的决心。为此，日军加紧了对大坪顶的进攻，抗日军在柯铁的指挥下，冒着密集的炮火坚守了14天，打死打伤日军109人，随后转移到新的根据地触口山。日军在嵌厝、大坪顶分别驻屯，以防抗日军卷土重来。
在南部的温水溪、十八重溪、蕃仔山地区，黄国镇聚集各路抗日军首领11人，结义抗日，号称“十二虎”，分别在1895年12月、1896年1月及其后举行3次会盟，商讨进攻嘉义支厅方略，以与铁国山抗日军相呼应，驱逐日本殖民者。1896年7月10日；黄国镇、阮镇联合进攻嘉义，日军将兵力收缩在城内固守，此后，又乘日军集中兵力对付铁国山之机，大肆活动，至1897年1月，嘉义东堡49庄均归入其支配之下。黄国镇还自称皇帝，定年号为大靖。8月，日军第三旅团组织讨伐队围剿。到了1898年6月，台湾总督府进行地方官制改革，废除嘉义县，黄国镇抓住时机宣传“日本将弃台而去”，嘉义地区人民日益聚集在抗日军的周围。随着各类地方税（如地租附加税、户税、营业税、杂税等）的开征，更激起台湾人的不满，因而当时抗日军袭击各派出所、弁务署时都得到了许多当地民众的支持和参与。
再往南，在凤山地区，林少猫率领的抗日军十分活跃，他们四处袭击日军兵营和宪兵屯所。此外，在下淡水溪右岸阿公店等地，魏开、陈鱼、张石定等率领的抗日军也在观音山附近建立根据地，声言将“杀死日本官吏，以为民除贼”。他们连续攻击了阿公店、弥陀港、赤嵌、阿莲等地。1898年，从厦门获取资金和武器秘密返回台湾的林少猫，率领抗日军在万丹与日军展开数次激战。12月28日，林少猫与万峦庄长林天福联合万峦庄的广东粤人、凤山厝的福建闽人及万金等地的“熟番”、“平埔番”1000余人组成抗日联军，猛攻潮州宪兵屯所，击退日海军陆战队，并与赶来增援的日军讨伐队展开激战。这是台湾各民族人民广泛联合抗击外国侵略者的真实写照，它充分反映了在日本殖民者的残暴屠杀面前，中华民族同仇敌忾、奋起抵抗的英勇精神。
第二部分日本殖民者的残暴讨伐及招降政策（1）
面对台湾人民风起云涌的抗日武装斗争；日本殖民者出动大批军队、警察和宪兵，组织讨伐队，进行惨无人道的屠杀与焚掠。他们不仅无情镇压抗日军参加者，而且就连普通民众也不放过，从一开始就采取所谓“无差别报复”政策，广大台湾人民遭到空前的大浩劫。
在台湾北部，日军讨伐队大肆搜捕杀戮抗日民众，仅第七旅团杀害者便高达2454名，被宪兵杀者为377名，宜兰平原哀鸿遍野。在中部云林，4000余户房屋被毁，民众大批被杀，据台湾高等法院院长高野孟矩揭露：“费时六日间，烧毁七十余庄之民居，不分良匪，杀害人民三百余——不查实际，多杀良民之父、夺其母、害其兄，又杀其子、杀其妻、害其弟，以激其恨，且又将其家屋及所有财产焚掠一空，使其无寄生之所。”许世楷：《日本统治下的台湾》，东京大学出版会，东京，1972，第121页。 这就是血腥的云林大屠杀。在南部的阿公店，日军的暴行还引起了国际舆论的强烈谴责。在日军对潮州和恒春的讨伐中，“被杀害者达2053名，伤者不知其数”，烧毁房屋5813户，连日本人自己都惊呼：“讨伐被害意外之多！”向山宽夫：《日本统治下台湾民族运动史》，中央经济研究所，东京，1987，第200页。 惨状目不忍睹。又如在上茄疲站�17～60岁的男子集中一处，根据事先准备好的“土匪名簿”，将其中238人拉出枪杀。桩桩血案，令人发指。
然而，殖民者的屠刀吓不倒台湾人民，相反只能更加激起他们对侵略者的仇恨。正如高野孟矩在谈到云林大屠杀时所指出的那样，这种屠杀政策“激怒了附近的人民，成为这次暴动蜂起的基因”，它只能把人民“推入他们（指抗日军）的队伍中去”。他说，台北、宜兰等地讨伐队不分良匪的杀戮政策收不到什么效果，台湾人对日本人普遍采取不合作态度。日本官吏“向人民询问‘匪情’时，（台人）更不告以事实”。许世楷：《日本统治下的台湾》，东京大学出版会，东京，1972，第93页。 又如，在潮州、恒春闽粤汉人与土著族联合抗日斗争中，来自阿公店的大屠杀的传闻也是当时激励人们起来斗争的重要原因之一。为防范和镇压台湾人民的武装反抗，乃木希典总督时期，实施了所谓“三段警备制”，即将台湾划分为3个区域，靠近山区的危险地带由军队负责防范、平地由警察负责，两者之间由军队和警察共同维持秩序，但由于各区域纵横交错、各部门间又往往权责不清，未能达成日人预期的效果，不久即告废止。鹤见佑辅：《后藤新平传》，太平洋协会出版部，东京，昭和18，第100页。
1898年儿玉源太郎任台湾总督、后藤新平任民政长官，台湾进入了所谓的儿玉、后藤时期。这一时期的殖民当局除了进行土地林野调查、兴建港口铁路等基础工程外，政治上则试图改变原先的横暴形象，采行怀柔政策，召开飨老典、扬文会，颁发绅章以笼络地方士绅；社会政策上则执行所谓“尊重旧惯”，对台湾社会固有的风俗习惯予以保留和一定程度的尊重，避免引发民众的不满；同时恢复封建的保甲制度，让台湾人自相监视，以台治台。针对长期以来镇压台湾人民武装斗争不利的状况，一方面整顿警察队伍以强化暴力统治机器，另一方面以新思维、新方法来对付台湾人民抗日武装斗争，其核心即展开对台湾抗日武装集团实施分化瓦解的招降政策。
对台湾抗日武装的招降活动虽早在桂太郎、乃木希典总督时代就已出现，但只不过是小范围的在中南部地区进行，台中县知事木下周一四处张贴招降谕告书，并委任部分台湾人从事招降，1898年12月铁国山周围试探性的施行，到了儿玉源太郎时期，在民政长官后藤新平的主持下，才开始了大规模的招降活动。
日本殖民者的招降活动首先指向北部的陈秋菊所部，先后派出长谷信敬、谷信近等与陈秋菊、林火旺会面，随后又劝诱卢锦春、简大狮等人投降，至1898年10月，北部地区几支主要武装集团相继停止战斗，“归顺”日本殖民者。在中部，台中县知事木下周一四处张贴招谕文书，并委任台湾人从事招降，1898年12月铁国山、张大猷等610人归降。在嘉义，总督府事务嘱托白井新太郎等通过黄国镇的父亲对其诱降，后黄国镇、柯铁等均告“归顺”。1899年初，台南县知事矶贝静藏颁布《归顺土匪处置法》，宣布对归顺者以宽大处理；4～5月间，南部的阮振、林少猫亦相继“归顺”。这样，到1899年上半年，全台各抗日武装集团陆续“归顺”，台湾岛内武装斗争暂告平静。一时之间台湾抗日武装集团的主要力量和著名首领都走向了“归顺”的道路。
大批抗日军走向“归顺”之路是有其原因的。日本殖民者在据台后曾发现；台湾的武装斗争得到了大陆的资金和武器弹药的支持，总督府民政局长水野遵即指出：“土匪骚动时；常有中国船自厦门方向将火药等运来台湾”《第九回贵族院议事速记录》，条约法规局，东京，昭和41；第24页。。为此日本政府加大了对清廷的外交交涉，清政府严令东南沿海地区禁�