作为1870—1895年的直隶总督，李鸿章是力主在沿海地区搞好防卫准备工作的主要倡导人。1872至1885年清政府在自强的名义下实施的计划，约有五分之四是经李鸿章之手主办的。其中有一项是北洋海军建设，这是中国几支舰队中最好的一支。李鸿章也是淮军——显然是清帝国最精锐的一支军队——公认的首领，虽然并无正式头衔。可是，他的权力并非占有压倒优势。他不仅要按照列强时刻警惕地捍卫着的条约体系行事，而且还要周旋在北京的和各省官员的复杂派系政治斗争之中，更不要说还要观察那位善变而任性的慈禧太后的脸色了。李鸿章的活动还受到麻烦的财政制度及各级既得利益集团的限制。他在直隶的职位也不是万无一失的。当左宗棠1881年从新疆回到北京时，醇亲王就显然有意让他接替李鸿章的直隶总督位置。李鸿章必须作些妥协才能保持权力，这无疑影响了他的革新计划的质量；但是没有这些妥协，也就根本不会有这些计划。
李鸿章之所以对清朝有价值和他之立于朝廷得以安然无恙，自然是得力于他建立的庞大的勇营。到1871年，淮军约达四万五千人，其中一万三千五百名驻扎在直隶。按照朝廷的旨意，其余部队分别驻在山西（三千人）、湖北（三千五百人）、江苏（四千五百人）及陕西（二万人）。在后来的年代中，李鸿章的部队仍然是主要的保卫力量，不仅在直隶是如此，在其他省份——分别由各该省督抚统带——也是如此。在1884—1885年的中法战争中，淮军既战斗在东京，也战斗在台湾；而在1894—1895年与日本发生的冲突中，李鸿章的军队也在各主要战线上作战。
李鸿章1870年到达直隶后不久，他就开始把直隶的各西式训练部队统编到他自己的军事组织中来，希望能更好地使用这些地方力量。他开始从该省约六千名绿营练军办起，想使他们接受已在他的士兵中付诸实行的同样的操练和军事教育。他也分别获得北京的批准，任命淮军统领为该省绿营兵制中的高级军官。崇厚的洋枪洋炮团队被李鸿章接收过来后，也重新加以训练。李鸿章重新给大沽口设防，并在距河口十英里的濒河处建立了一座战略性的城池。他还扩建了天津制造局，为此目的他从天津关税中摊了一部分款子。
李鸿章似乎把淮军的训练交给了直隶的三位统领，其中以周盛传（1833—1885年）最为积极认真。周盛传是一位身经对太平军和对捻军战争的宿将，在十九世纪七十年代统带着淮军中装备最好的一支劲旅，通常他管辖一万多人。和李鸿章一样，周盛传也极端强调现代武器的重要性。他相当通晓这些武器，所以他一再向李鸿章推荐要购买克虏伯大炮，林明敦式、斯奈德式等现代来复枪，加特林式炮，等等。他给李鸿章的呈文和他给自己部队下达的指示都表明，他所注意的是不仅要弄到和保养好西洋新式武器，而且要系统地训练官兵去使用它们。
周盛传和其他勇营统领不一样的是，他还相信西式教育和操练的优越性。他不仅印发操典，而且经常亲自监督他的军队的操练，他还不断告诫营官和哨官也要参加操练。对优秀神枪手又是发奖金，又是发“功牌”；操演不好者则要受处分。曾在十九世纪七十年代被李鸿章送往德国受过训的淮军军官之一的查连标，以精通西洋操法而特别受到周盛传的表扬。
虽然周盛传不想在他的部队中雇用西洋教官，但他经常向外国人求教。但是，他对外国人的批评所采取的态度，一般是进行辩护，有时则嗤之以鼻。例如，戈登这位维多利亚时代的英雄在1880年伊犁危机中回到中国时，他就很怀疑戈登的大部分军事建议；他甚至责怪李鸿章在十九世纪八十年代雇用的一些德国军官不懂得夜战和卧射的优越性。有时，周盛传也分明误解了外国人建议的要点：例如他就曾讥笑过戈登关于游击式运动战法的主张。可是，他指责戈登低估了高级技术的重要性，这又似乎是相当对的。周盛传和李鸿章一样，对应用科学（特别是医药）和现代化的交通通讯工具（如电报、铁路）有着持续不衰的兴趣。
至少用当时的中国标准来看，周盛传所部的各营是第一流的武装力量。日本人、德国人、英国人和美国人对他的军队的报道基本上都是一片赞扬之声。但是，周盛传本人在十九世纪八十年代初期就曾几次指出说：这支军队已在走下坡路；它经过二十年的征战之后已耗尽锐气，暮气沉沉。问题不是在装备方面，而是在勇营制度的军官的挑选和提升方面。周盛传抱怨说，有经验的军官缺乏朝气，而新手又缺少知识。尽管周盛传屡屡告诫他的营官和哨官要象士兵那样艰苦地参加操练，但军官们仍拒不上操。他们把这当做丢脸的事。周盛传本人的著作和一些局外的外国人的观察都注意到了这一有决定意义的、长期不能解决的问题，但显然是束手无策，坐视莫救。周盛传的军官们想方设法要挤进清朝的官僚阶层，哪怕是挤进绿营的官僚集团也好，可是他们缺乏职业军人的荣誉感。
周盛传军队的主要问题恰恰在于它仍然是勇营。每当德国顾问们建议对勇营的组织进行任何细小的修改，他也几乎总是一成不变地加以反对。虽然周盛传知道法国和德国都实行普遍兵役制，但他认为这办法不适合中国国情。他对上述建议作出的让步，就是提议勇营兵中每营所拥有的五十名长夫应给予机会使之变成士兵。周盛传很赞赏作为淮军特点的家长式统治和人与人之间的精诚团结关系。事实上他也把许多亲戚安插在他的部队中。虽然他本人很欣赏象查连标那样受过外国教育的军官的技术和知识，但周盛传很少推荐他们获得勇营军官垂涎三尺的绿营军阶和官职。显然，周盛传和李鸿章没有这些特殊荐举的客观标准。
在周盛传的部队中有吸鸦片烟、赌博和欺压老百姓等常见的恶习的人比较少，但是他确实仍一有机会就要告诫官兵们应注意道德和军队风纪。淮军训练计划的效率，一定因执行一些有价值的、但非军事性的任务而受到损害。在七十年代和八十年代初期，周盛传的部队经常奉命参加建设工程，参加垦荒、屯田，还参加一些救灾活动。
同时，淮军也继续受北京财政政策变化莫测的影响。李鸿章为反对饷项收入的日益削减而奋斗不息，这在文献上是有充分的记载的。在七十年代，整个淮军的岁入平均远远超过三百万两，但到了八十年代后期和九十年代初期每年平均减少到不足二百五十万两。武器价格高昂，迫使李鸿章向士兵（理论上还有军官们）连续支付原定薪饷的四分之三，剩下四分之一作为积欠在退伍时偿清。北京确实向各省施加压力，以促使它们把驻直隶的淮军的军费拨给李鸿章，并使拨款至少保持在削减之后的水平。但是，北京也想法监督淮军的某些具体的支出。淮军要服从户部“造册报销”的规定，而且户部在很长时期以来拒不承认每个营长夫的搬运、燃料和饷项等费用为合法的开支。⑤尽管李鸿章负责清帝国最精锐的军队，他显然仍须指望北京给他的军队以财政支持，因此他必须做出各种妥协。就是在这种局面下，以及在勇营制度本身的基础上，李鸿章努力建设了一支现代化的海军。
李鸿章关于海军防御的概念是在1874年的政策辩论中具体化的。虽然他仍然觉得海军不象陆军那么重要，但他的建议反映了一种日益关注的心情，即迫切需要保证沿海的安全，包括紧邻满洲和华北的朝鲜的安全在内。一个明显的需要是迅速获得现代化的军舰。李鸿章认识到，中国的上海和福州两个主要造船厂甚至付出高得不敢问津的代价也建造不出合用的船只。他得到清帝的支持，着手从国外买船。在最初，赫德是他的居间人。1875年4月李鸿章通过赫德向英国订购了四艘炮艇，1877年他又订购了四艘。但是，他开始把赫德看做是想控制中国海军计划的竞争者（见上卷第十章）。于是，李鸿章通过别人来买船，而赫德也撇开李鸿章向其他督抚供应定货。他们两人各自出于种种原因，试图总揽武器的购买事宜，但都没有成功。李鸿章从不认为，整个中国海岸只由一支水师负责在政治上是可行的。十九世纪七十年代中期他反对总理衙门关于设置一位统帅负责沿海和长江诸省防务的建议，尽管他可能是这一职位最有希望的候选人。在尽力解决一个互不协调的陆海军制度的时候，他命里注定要肩负主要的责任。
在七十年代和八十年代初期，驻节天津的李鸿章、驻节南京的南洋通商大臣以及福建和广东两省的官员们相继而起，买船成风。可以预计，结果是造成了一场混乱。建立起来了四支互不统属的舰队：北洋通商大臣和南洋通商大臣各领一支，福州船政局统带一支，驻节广州的总督也统带一支。还有一些旧式水上部队，包括长江水师在内。这些部队的武器、船只和训练，不仅在地区与地区之间迥然不同，甚至在一个号令系统内也各吹各的号。而且，由于缺少中央政府的指导方针（尽管赫德有过这样的建议），各省官员经常被狡诈的军火商所愚弄。甚至李鸿章也未能免遭他们的摆布，欧洲和美国来的军火商人们川流不息地在他的衙门、他的统领们和他的外国顾问们那里进进出出。
李鸿章的财政资源不象许多人想象的那样多。在1875年清帝许诺的每年四百万两“海防经费”中，到1877年后期李鸿章只收到总数不足二百万两，因为各省受到另外更大的压力，要它们给左宗棠远征新疆之役提供经费。可是，李鸿章得到了南洋通商大臣——特别是沈葆桢——的合作，还是能够扩充他的舰队。沈葆桢把原来南洋水师订购的四艘英制炮艇让给了李鸿章。在日本于1879年吞并琉球以及伊犁危机期间俄国的海军威胁发生之后，李鸿章在1880—1881年奉旨向德国定造两艘斯特汀式铁甲舰和一艘钢甲巡洋舰。它们的财政来源有下列几个方面：“海防经费”项下的各种拨款；轮船招商局为偿付政府过去债款转来的一百万两；皖南盐商捐赠的六十万两；以及向专用于外交用途的海关收入所借的“借款”。1881年订购的德国船只直到中法战争以后才运到。与此同时，李鸿章还计划在满洲南端的旅顺口搞一个大型船舶修造厂。旅顺和山东的威海卫将成为他的海军基地。
1882年，清帝国可以号称它拥有约五十艘战舰，其中约半数为中国自造。李鸿章直接经管着十二艘船——八艘小炮艇，两艘1，350吨的巡洋舰（通过赫德向英国阿摩士庄厂定造），以及两艘福州船政局的产品。美国海军准将舒斐尔特（1881年李鸿章显然曾考虑要让他暂管北洋舰队）赞扬了他所视察的英制船只，他说：“每一项现代海战工艺器械都装备到了这些新舰艇上：用水力操纵的具有大口径和高速度的炮，以及机关枪、电灯、鱼雷和鱼雷艇，双螺旋桨引擎，钢制金属撞角，如此等等，不一而足。的确，这个舰队的材料是完美的，但是很显然，若要使它确实发挥效益，它还需要有一支有文化水平的队伍和一个完善的组织。”
李鸿章不是没有觉察到人事方面的问题。他支持1872年派遣留学生使团去美国康涅狄格州的哈特福德，一部分原因便是寄希望于它可能提供受过西洋训练的陆海军人才。总理衙门在1881年想撤回留美学生，李鸿章对这一意见作了妥协，这部分地是因为，与1868年的蒲安臣条约相反，安纳波利斯军校和西点军校不接受中国学生受训。1876年，李鸿章又在天津制造局添建了一个电动鱼雷厂。也就在这一年，他派了七名淮军军官去德国学习战争技术。但在十九世纪七十年代，为中国的海军提供军官的最好的来源是福州船政局训练的士官生。虽然江南机器制造总局有一个小规模的船上训练计划，但在福州举办的船上和岸上的训练被认为更加完备。
到了1873年秋天，四名从福州船政局修船科毕业的士官生已取得舰长或大副的资格，另外四名出航服役者也将获得同样的军阶，其他六名可能在次年春天取得资格。一年以后，十四名轮机舱科的毕业生被委派到福州造的船上，其他七名合格的工程师则等待分配。李鸿章急于想利用这批由在华洋人训练出来的专业人才。1877年，第一批三十名福州学生经李鸿章和沈葆桢的荐举被派到欧洲去深造（见上卷第十章）。1879和1880年回国后，他们都在舰只上或福州船政局获得了重要的职位。有几个人为李鸿章效劳。
1875年以后，福州船政局日趋衰落，这部分是因为现在已没有什么洋员留任。头两任船政大臣沈葆桢和丁日昌卸任后，福州船政局的行政落入了能力较差的人员的手中。不久，它就被批评为软、懒、贪的摊子。行政经费被削减，这表明北京和省级官员都对它减少了兴趣。1881年年中的一道上谕曾引用一份奏折中的大意说，在多年的代价高昂的训练之后，中国海军学生仍然不知道怎样驾驶船只。虽然这些指控往往是保守派或派系斗争所挑唆出来的，但从欧洲留学回来的某些福州士官生的才能确未博得信任。李鸿章本人也把他们形容为“文秀有余，威武不足”。
李鸿章现在想法寻找一个更可靠的来源，以便得到用西式方法训练的中国海军军官。1880—1881年，他在天津开办了自己的水师学堂。它的第一任学监是福州船政学堂毕业生严复，他在格林威治深造过，后因翻译西洋政治思想著作而享有大翻译家的盛名。水师学堂的外国教官包括海关派来的三位官员和一名年青的美国人阿灵敦。1882年，李鸿章通过赫德招来了英国海军军官琅威理，此人曾帮助把李鸿章在十九世纪七十年代定购的几艘阿摩士庄船只弄回中国。琅威理给李鸿章当了约两年北洋水师总查，但他不直接在天津水师学堂的编制内。作为海军提督丁汝昌（曾任淮军骑兵军官）的副手，琅威理的主要工作是训练李鸿章舰艇上的现役人员。
天津水师学堂在主要课程和学制方面（见上卷第十章）类似于福州船政学堂的英语班。它开设两个科：一为1881年开设的驾驶科，一为1882年开设的轮机科。为了想吸引那些不进学堂就会受科举制度引诱的才智之士，李鸿章在水师学堂的告示中强调指出，中国的新式舰只将给上层家庭出身的青年人提供进入仕途的新机会。在说到福州毕业生的时候，他指出：“那些受人尊敬的家庭出身的子弟……已经学有所成……而且当上了舰长。有些人现已官至二、三品，并且被授过了勋章。”这水师学堂的第一批学生只经过三年学习就毕了业。他们在中法战争中处于戒备状态的舰艇上继续接受训练。虽然北洋舰队几乎没有参加这次冲突，但是由于英国是中立国家，琅威理仍被迫退出中国海军的现役。他的一位临时的继任者德国人式百龄，完全是一个无能之辈。琅威理直到1886年初才又在中国海军中工作。