为主要矛盾。年仅二十六岁的张煌言听说后，“愤不欲生”，为了挽救民族危难，毅然投笔从戎，开始了抗清的战斗生涯。
当清兵入据北京之初，明朝一些官员在南京拥立福王朱由崧为帝，建立了南明小朝廷。但它仅仅存在了一年时间，就被清朝灭掉。清兵趁势进犯浙江。浙江人民没有屈服，各地纷纷起义，保卫家乡。张煌言参加了宁波举义，并迎鲁王朱以海来绍兴监国。
与鲁王政权建立的同时，唐王朱聿键也被福建军阀郑芝龙拥立称帝。1646年，清兵进犯闽浙，郑芝龙降清，唐王被俘，绝食而死。张煌言匆忙辞别父亲妻儿，追随鲁王泛海出走。
鲁王在福建长垣再建临时政权，声威复震。奉鲁王之命，张煌言与定西侯张名振重返浙东，招集散亡，筹建军队，并图收复长江下游地区。这时候，南明最后一个皇帝永历政权桂王朱由榔的军队，正在西南与清兵战斗。原张献忠部将李定国率军队攻克桂林之后，又攻入湖南，在衡州大败清兵，准备顺长江东下，特地约会张煌言东西夹击。
顺治十一年（1654年）正月，张煌言一战攻克崇明，然后与张名振溯江直上，在镇江登陆，并在镇江西北的金山驻扎了几天。但由于西南方面军队未按约定时候赶到，只好暂时撤回崇明岛。
两个月后，清兵大部分调离南京去迎战李定国，长江下游兵力薄弱。张煌言决定再攻南京，一路攻打重镇镇江，他自己则直捣南京。但由于福建郑成功方面的主力没有出动接应，同时，镇江方面的战斗失利，张煌言在战略上既处于不利地位，只得放弃攻城，撤回舟山。
这之前天下的局势是：李定国率军八万东出广西，下桂林，又攻入湖南、广东，“两蹶名王，天下震动”；同时，孙可望派刘文秀出击四川，克复川南；张煌言此时也接受了永历封号，也发动了攻势。按照实现计划，三方应该在长江会师，假若实现的话，江南一举可以收复。十分可惜，这次以钱谦益为核心精心策划的大行动失败了！
郑成功不出兵是因为有他自己的小算盘，而西南方面军队迟迟不到，则是因为这时候永历政权正忙着搞内部争斗。孙可望大权在握，逐渐滋长称帝之心，挟永历朝廷以自重。永历帝如坐危城，为了自保，与朝臣合谋，偏偏在这个东西会师的关键时刻，两次召李定国统兵入卫。于是本来要赶去与张煌言会师的李定国从湖南匆匆回师广东，但不料永历帝谋泄，孙可望派人到安龙问罪，意图找出每一个参与策划以及与李定国联系的人；但永历皇帝禀性难移，不愿承认他自己的责任。于是孙可望将十八名朝臣下狱、杀害，这就是南明史上有名的“十八先生之狱”。这一史事，《明史》、《清史稿》和《永历实录》、《安龙纪事》等历史著作均有记载。在这种情况下，孙可望为了保护自己的利益，自然也不会派刘文秀出师援助张煌言。
不久，李定国和郑成功在广东会师的计划也失败了，于是他率军亲赴安龙，打算从孙可望的控制下救出永历帝朱由榔。孙可望派人阻截李定国军北上，甚至下令“凡定国必过之地尽焚刍粮，以绝其归路”。1656年，李定国拥永历帝至云南，次年又大败孙可望，孙可望势穷降清。孙可望降清后，云贵虚实尽为清军所知。1658年，吴三桂率清军攻入云南。次年初，下昆明，永历帝出逃缅甸。李定国率全军设伏于磨盘山，企图一举歼灭敌人追兵，结果因内奸泄密失败。1661年，吴三桂率军入缅，索回永历帝，次年四月在昆明将其处死。7月，李定国在勐腊得知永历帝死讯，亦忧愤而死。
如此，自己人跟自己人斗了个翻天覆地，真是“亲者痛，仇者快”！纵观南明历史，这样的事情真是数不胜数。
就这样，钱谦益等人精心策划的长江会师计划由于南明政权内各怀心思，各自为战，忙于内耗，不幸而失败了。张煌言两次进军长江，尽管都不得已撤退，却极大地鼓舞了人民的抗清斗志。
第二年，张名振“中毒卒，遗言以所部属煌言”（《清史·卷224·张煌言传》）。当时传闻纷纷，都说张名振之死是由郑成功下毒所致，“名振遇毒，议者皆咎成功，以故失浙海将士心”（邵廷采·《东南纪事》）。
1658年，永历帝朱由榔自西南遣使，封郑成功为延平郡王、招讨大将军，张煌言为东阁大学士兼兵部尚书。于是，闽浙两处加紧备战，共图大举。
1659年春，清兵分三路攻入云南。为了牵制清兵，保住永历朝廷，再图恢复，张煌言驰书郑成功，请他火速出兵，北入长江。五月，郑成功率十七万精兵出发。张煌言率领本部将士六千人，与郑成功会师，并充任先头部队，挺进长江口。
瓜州地处运河与长江交汇处，是清兵南下增援的要路。在这里，清兵设下拦江铁锁，两岸又设西洋大炮数百门。狭窄的江面上，清兵还扎就巨大的木筏，筏上建筑城堡，浮泛水面，称做“木浮营”。真是水下鱼难过，天上鸟难飞。
张煌言率军担当突破江面封锁的任务，郑成功则派陆军去夺取江岸炮台。潜水士兵截断了拦江铁锁，张煌言立即指挥舰队进攻。这时，两岸炮台发炮如雨，清兵的木浮营也从水面顺流而下，万箭齐发。张煌言命令自己所乘的舰船直冲向前，将士们见此情景，更加拼力死战，一举夺下三座木浮营，江岸炮台的清兵竞相溃逃。随后，郑成功大军开到，全歼守敌，攻克瓜州。一时江浙大地憾动，湘赣鲁豫等省志士纷纷前来联系，准备响应。清廷上下震惊，顺治帝甚至准备“东还”了。
瓜州大捷后，郑成功率陆军攻取镇江，以阻遏敌人增援。张煌言则带水军直捣南京北面的观音门。不久，镇江克复。张煌言闻讯后，一面写信要郑成功加速从陆路直趋南京，以争取时间；一面命令部队昼夜行军，赶赴南京。六月二十八日，张煌言的水军抵达观音门。
当时，南京守备疲弱，士兵情绪低落。这时，如果郑成功大军及时赶到，南京一攻即破。可惜郑成功仍取道水路，行进迟缓，而清兵却从滇黔方面撤回一部分兵力，日夜兼程赶来，攻城良机终于失去。
五天以后，郑成功大军抵达南京城下。这时，张煌言派往上游的部队已攻取江浦城。芜湖的清将也请求投降。芜湖，是沿江关键重镇。郑成功请张煌言驻军芜湖，经营上游军事。
七月初七，张煌言抵达芜湖。他分兵四路：东出溧阳，西镇池州，北取和州，南入宁国。自己则驻节芜湖，总理军务。
长江两岸人民热望故国的军队，已有十五年了。张煌言这次率军到来，百姓争相传告，喜悦万分。地方官员也纷纷归顺投诚。旬日之间，光复城池竟达四府三州二十四县。部下水陆军也增至万余人。这时，湘赣鲁豫等省志士，纷纷前来联系，或提供敌军情报，或约期起兵响应。张煌言面对这一连串辉煌胜利，更是无比欣慰。他日夜部署诸军，拟直取九江，打通与滇黔联系的道路。一时江淮半壁为之震动。
就在这时，郑成功大军在南京遭受了严重挫折。原来张、郑分手后，郑成功疏于警戒，误中敌人缓兵之计。他没有分兵攻取周围城邑，而只是屯兵南京城外，静候清兵投降。七月二十三日，守城清兵倾城而出，发动突然袭击。郑成功仓促接战失利，大将余新、甘辉被俘，士兵伤亡惨重。
南京战败消息传到芜湖，张煌言立即写信给郑成功，要他切勿全军东撤，只要坚守镇江，自己还可保有上游各城，“天下事尚可图也”。可是，这封信已经无法送达了。郑成功在突遭失利之后，已放弃镇江，并撤出驻长江流域的军队，回师金、厦去了。
郑成功军队既撤，清兵便专一对付张煌言。张煌言孤军深入，兵少粮缺，陷入极端危险的境地，最后全军溃散。张煌言身边只剩下一个僮仆，在各地百姓们的掩护下，他辗转跋涉二千余里，花了大半年的时间，才脱险回到浙东。随后，张煌言一面重整军队，一面总结经验教训，写下了《北征得失纪略》一文。1660年，张煌言率部回到临门。
这时，清廷企图乘张煌言和郑成功新败之际，一举消灭浙闽抗清力量。于是分兵数路继续扫荡。他们逮捕了张煌言的妻子和儿子，接着，下令沿海居民一律迁入距海三十里以内的地区，严禁舟船出海，企图断绝人民群众与抗清队伍的联系。
1661年冬，吴三桂带兵进入缅甸，俘永历帝父子，南明彻底灭亡。在云南边境艰苦转战的李定国次年病死军中。1662年，郑成功在台湾病故。其子郑经，在清兵扫荡下，被迫放弃沿海岛屿，撤往台湾。不久，鲁王病死在金门。
“国仇家难转相仍”，一连串不幸的消息使张煌言深深感到复国事业的艰难，却更加坚定了他至死不屈的决心。如今只有张煌言一支孤军屹立在临门。
在艰难危急的处境面前，有人建议退往台湾，依附郑经。张煌言认为，与其“偷生朝露，宁以一死立信”，坚持不肯撤退。张煌言和鲁王都有曾经为郑氏所制的切身体会，这恐怕是真正的原因。
张煌言和旧日部将阮春雷合军，集战舰百余艘，准备攻取福宁沿海。不料遭到阮部叛徒出卖，未能如愿。而清廷又纠集数倍于张的兵力前来偷袭。众寡不敌，这支抗清队伍伤亡惨重，只好退驻舟山岛。由于清廷强迫舟山岛居民全部撤离，再加上对沿海的封锁，使张煌言面临绝粮断炊的新困难。
当时浙江总督赵廷臣通过多种渠道，一再以帛书向张煌言招降，而张煌言也两次以坚贞的气节、铿锵的言辞拒绝了赵的诱惑。这里有一点殊可注意，那就是张煌言对满族入主中原的看法有了根本的转变。
张煌言在后一封信的开头就提出“古今来何代无废兴”，认可改朝换代是古代历史发展过程中一种客观存在，不过“有志之士，尚谓人定可以胜天”，表现了自己“挽狂澜于既倒”的雄心壮志。接着，他又表示：“即使历运推移，朝市迁变，兴王每每宾礼胜国君臣，录用前朝宗室”，这种做法，不失为使“忠臣义士，戴新朝之盛德，慰故国之悲思”的有效措施。如果再能“省刑薄敛，偃武修文，与天下更始”，那就会出现“四海讴歌，群雄归命”的太平景象。这些言简意明的表达，足以证明张煌言已经看到了满清治下的成果，也看到了历史潮流的不可逆转。
自从在鲁王病死后，张煌言已经对前途感到完全绝望，尽管还有不少明朝遗民在四处奔走，郑氏还雄居台湾，但人心思定，大势已去；天下事，有所为，有所不为，不能因为自己要以身殉国就硬要天下人陪自己也去殉国。这个时候的张煌言是相当沮丧的，在经过反复考虑后，他作出了一个重大决定，解散了余部，自己隐居到南田的悬岙岛（今浙江象山南）。张煌言始终是一位抗清志士，而不是一个独善其身的人，这是他解散自己部下的军队后仍然没有像其他士绅那样去台湾的原因。
但满清并不十分了解张煌言的心思，他的销声匿迹在敌人眼中看来是在酝酿更大的行动，因此他的存在使清廷极度不安，他们要竭力拔除这一颗“眼中钉”。满清浙江水师提督张杰绞尽脑汁，终于找到了一个张煌言的旧部徐元，叫他扮做行脚僧，在舟山探寻张煌言的踪迹。
一天，张煌言手下的几个士兵驾船去舟山买米，被徐元撞见。他抽刀威胁众人供出张煌言的住址。几个士兵宁死不讲，被徐元一一杀死。最后剩下的一个船夫，在严刑拷打下供出了悬岙岛的处所。
七月十七日，张杰派出兵卒，乘坐张煌言的米船在午夜潜入悬岙岛。他们从岛后山背偷偷地攀到山上。张煌言从睡梦中惊醒，伸手抽剑，但已经迟了。一窝蜂冲进屋内的清兵紧紧地把他捆缚住。他们搜出了永历帝颁发的“视师兵部”银印和九枚关防、张煌言诗文稿以及他与中原豪杰志士的来往密信两大箱。
十九日，张煌言被押到宁波——他阔别了近二十年的故乡。他头戴明朝的方巾，穿着葛布衣服，神情依然是那样的平和、坚毅，给聚集在大路两旁围观的百姓们留下了深刻的印象。
清提督张杰设宴招待张煌言，张煌言拒绝了，只说：“父死不能葬，国亡不能救，死有余罪。今日之事，速死而已。”此外别无一语。
十几天后，张煌言被押往杭州，宁波人民闻讯赶到码头送行的竟有数千人之多。一出城门，张煌言下了轿子，向故国、家乡揖手告别，向送行的人们拱手致意。围观的人们都泣不成声。
在钱塘江畔，张煌言写下了“生比鸿毛犹负国，死留碧血欲支天”的悲壮诗句。他早已经明白复明无望，对满清的态度也有所改变