就在清政府批准《马关条约》的当天，1895 年 5 月 2 日，广东举人康有为在京城联合十八省举人“公车上书”，坚决反对《马关条约》，要求拒和、迁都、练兵、变法。由此，轰轰烈烈的戊戌维新运动揭开了序幕。
李鸿章对于维新运动，抱有同情和支持的态度。甲午战败，李鸿章开始反思，渴望清国强大起来的想法也愈来愈强烈。李鸿章知道日本是通过变法才壮大起来的，他也研究了很多关于西方社会制度的资料。他曾在给英国传教士李提摩太的一封信里，明确表示希望中国能够走向“公天下之局”。
1898 年，光绪帝命令翁同龢、李鸿章、荣禄等总理衙门五大臣约见康有为。李鸿章问起康有为：如果六部（吏、户、礼、兵、刑、工）都撤掉了，那么旧的规章制度是不是也要撤呢？康有为回答说：现在是世界列国并立的时代，而我们现在的法律和官制，都是过去的，中国之所以弱，就在于此。最好都能够撤去，即使一时间不能完全撤去，也应当考虑斟酌修改。
李鸿章听后，没有说话，事后他对别人说：我不如康有为，废掉过去的旧政策和体制，是我想了几十年也没有做到的，他却可以，我感觉到深深的惭愧。
6 月 11 日，光绪帝下决心全面变法，荣禄一直阻挠提拔康有为，并向慈禧太后告状。李鸿章得知后，曾经两次透露给康有为，要他小心。后来，听说有人要杀康有为，李鸿章又派人告诉了康有为。他建议康有为“养壮士，住深室，简出游”，以策安全。光绪帝为了保护康有为，让他出京，李鸿章派人送行。李鸿章终于明白了：大清国前途茫茫，只有变法一条路了。
慈禧太后发动戊戌政变之后，康有为和梁启超二人逃到日本。此际，李鸿章刚好被派任两广总督。慈禧下令搜捕康有为和梁启超的亲戚，刨平他们的祖坟。李鸿章对这样的做法非常不满，一直拖着没有办理。李鸿章回复朝廷说：新党在香港定做战袍和勇衣，提出要“勤王”，现在平坟，恐怕为他们找到生事的借口。我看还是缓些时候再办理。后来，他对自己的部下说：“我决不做刀斧手。”
有一天，慈禧太后拿着厚厚一摞弹劾李鸿章的奏折问李鸿章：现在有人揭发你为康党，你怎么说？李鸿章回答说：臣的确是康党。我认为六部都可以废掉，如果旧的政策能够让中国富强，那么中国早就强大了，还用等到今天？如果说主张变法的都是康党，那么我无可逃避，臣就是康党。慈禧听了李鸿章的话，什么也没有说。
后来，李鸿章委托伊藤博文等向康有为和梁启超捎去口信，勉励他们要努力学习西学，将来报效国家。有一次，李鸿章对伊藤博文说，这次康、梁变法之失败，只因“变法太急，用人不当”。