1894年8月1日，甲午战争正式爆发。李鸿章被任命为清军的最高统帅。战争从一开始就朝着李鸿章最不愿看到的局面直转而下。那段时间，李鸿章不时地听到传来一个又一个晴天霹雳。这种莫名其妙的溃败方式，让李鸿章比谁都苦涩，比谁都委屈，也比谁都愤懑。他的朋友吴汝纶曾经回忆说：“平壤之败，李相国痛哭流涕，彻夜不寐……及旅顺失守，愤不欲生。”
朝廷向日本提出了议和的倡议。输光了的李鸿章愧于与日本人面对面，当恭亲王试探着让李鸿章前去日本议和时，李鸿章选定的人物，是在天津海关工作二十余年、对李鸿章忠心耿耿的德国人德璀琳。在节节胜利的情况下，日本当然不想立即收兵，他们想占领东三省部分领土，以此来逼迫清国做出更大的让步。更何况，中国政府此时派来的是一名洋人，很可能是来打探虚实的。
德璀琳灰溜溜地回到中国。1895年2月1日，清政府又派张荫桓和邵友濂二人赴日，第二天，双方互换国书。伊藤博文发现张荫桓和邵友濂所携带的国书文字中有“一切事件，电达总理衙门转奏裁决”内容，认定二人授权不足，拒绝与他们谈判。伊藤博文问伍廷芳：“你方为什么不派遣重臣来呢?请问恭亲王为什么不能来敝国?”伍廷芳答道：“恭亲王位高权重，无法走开。”“那么李鸿章中堂大人可以主持议和，贵国怎么不派他来?”伍廷芳随之反问：“我今天是和您闲谈，那我顺便问问，如果李中堂奉命前来议和，贵国愿意订约吗?”伊藤博文自然能够听出伍廷芳的弦外之音，回答得也是滴水不漏：“如果中堂前来，我国自然乐意接待，但还是符合国际惯例，必须拥有全权。”
就在这次谈话前后，日军取得威海卫战役的胜利，北洋海军全军覆没。清政府失去了与日本人讨价还价的最后筹码，没有别的办法，只好派李鸿章前往日本议和。
1895年2月22日，李鸿章奉旨进京。此时，日本人再次向清政府表示，如果要和谈，不仅要清政府赔款和承认朝鲜独立，而且要求割地!慈禧气急败坏，借口肝气发作，对于议和一事，不愿表态，只是王顾左右而言他。满朝大臣，一片义愤填膺，但具体到如何解决问题，一个个束手无策，并且，谁都不愿意背上遗臭万年的罪名，去接这个烫手山芋。李鸿章自然也不愿意。经办外交多年，李鸿章早尝够了“卖国贼”的滋味，所以，他一定要得到清政府的全权授权，才肯出使日本。
李鸿章为了寻求支持，确切了解各国列强的态度，再次奔走于各国使馆。只可惜此时各国要么已与日本沆瀣一气，要么暗中打着自己的“小九九”，准备坐收渔翁之利。李鸿章的求助行动并没有结果。
3月4日，光绪正式发出了全权证书，宣布李鸿章为头等全权大臣，予以署名画押权。14日，李鸿章等人启程直奔日本马关。
春帆楼被刺，“此血可以报国矣!”
在马关，李鸿章经历了人生当中最耻辱的时光。当李鸿章在半个多月后带着枪伤以及耻辱离开这块土地时，他曾发誓决不踏入这块土地，并陷入了长久的孤独和愤懑之中。对于个人所发的誓言，李鸿章做到了———一年之后，当李鸿章环游欧洲列国再次途经日本换船时，李鸿章死活也不肯上岸，只是在两船之间搭一个木板，然后在别人的搀扶下颤颤巍巍地走了过去。李鸿章只能以这样的方式表达着他的愤懑。这样的誓言，看起来坚固无比，实际上却是那样的单薄脆弱。
1895年3月20日午后2时半，李鸿章一行登上马关议和之地春帆楼。春帆楼上，放着一长方形会议桌，旁边，摆放着十多把椅子。日方还特别在李鸿章的座位边安置了一只痰盂，大约是有意无意地提醒着大家，这位清国全权大臣已值暮年，垂垂老矣。中日两国代表唇枪舌剑，谈判僵持不下。恰在此时，一桩突发事件改变了谈判的进程。
3月24日下午4时，中日第三轮谈判结束后，满腹心事的李鸿章步出春帆楼，乘轿车返回驿馆。谁知，就在李鸿章乘坐的汽车快到驿馆时，人群中突然窜出一名日本男子，在卫兵未及反应之时，朝李鸿章脸上就是一枪。李鸿章左颊中弹，血染官服，倒在血泊之中。过了一会，李鸿章苏醒过来。李鸿章毕竟经历过大风大浪，面对此突发事件，异常镇静，除了安慰随行外，不忘叮嘱随员将换下来的血衣保存下来，不要洗掉血迹。面对斑斑血迹的官服，73岁的李鸿章算是找到了一点安慰，他一声长叹：“此血可以报国矣!”
李鸿章的伤口在左眼下一寸的位置。子弹虽然留在了体内，但并没有伤到眼睛。4月10日，李鸿章伤势稍好转之后，中日双方又就甲午战争展开第五次谈判。中国的和约修正案送达日方。由于李鸿章的伤势渐愈，亲自参加了会议。
1895年4月17日，李鸿章与日本代表签订了丧权辱国的《中日马关条约》。国人声讨：“卖国者秦桧，误国者李鸿章!”
1901年，李鸿章78岁。这一年，是李鸿章生命的最后一年。李鸿章的话变得越来越少，他经常一个人坐在有假山的院落里，看着不远处的白云苍狗，独自发呆;有时候，他甚至像一条刚上岸的鱼一样大口大口地喘着气。
1900年6月，八国联军入侵，大清国宣布与各国进入战争状态。李鸿章在南方得知这一消息之后，老泪纵横，用手杖触地：“内乱如何得止?如何得止?”李鸿章的悲伤让在场的官员动容失色，他们从未见过冷静铁血的李鸿章在情绪上会失去控制。即使是在最伤痛最悲凉的甲午战争失败后，李鸿章也只是无声泪下。朝廷的电报一封接一封地到达南方，要求各省封疆大臣率兵北上共同灭洋。朝廷下诏，将李鸿章由两广总督重新调任为大清国封疆大臣中的最高职位：直隶总督兼北洋大臣。慈禧的一纸任命是：“着李鸿章为全权大臣。”
1900年7月17日，77岁的李鸿章在广州登船准备北上了。李鸿章颤巍巍地在贴身侍卫的搀扶下走过跳板，然后在甲板上的藤椅上坐了下来。所有的官员都静静地等候着他发布开船的命令，但李鸿章许久都没有开口，他只是闭着眼睛坐在那儿一动不动，仿佛睡着一般。
1900年8月15日，大清国都城沦陷，政府和朝廷逃亡。9月29日，李鸿章到达天津。李鸿章专程去了一下他曾经执政达二十多年的直隶衙门。此时此刻，北洋大臣的办公地已是破败不堪，李鸿章蹒跚着步子，察看着废墟中的一切，内心沉痛无比。10月11日，李鸿章到达北京。由于心理压力巨大，李鸿章终于病倒了，他在拜会英、德公使后回贤良寺的路上受了风寒，一病不起，故作拖延以“漫天要价”的联军沉不住气了，他们唯恐朝廷再也没人来收拾这个烂摊子，一个耗尽“中国财力兵力”的“议和大纲”终于出笼。1901年1月15日，李鸿章和庆亲王在“议和大纲”上签字。国人声讨又起：“卖国者秦桧，误国者李鸿章!”