向西方学习，创办近代化工业，这是历史进步的要求。早在鸦片战争时期，魏源、林则徐就提出“师夷长技以制夷”的口号，原因是这些中华民族的有志之士，在同外国侵略者不屈不挠的斗争中，看到外国侵略者凭借先进的武器装备肆意侵略我们，我们要想有效地反击侵略者，也必须学习先进的科学技术，首先要学习造船、造炮技术，以此提高我们的国防能力。左宗棠受林则徐、魏源促进国防近代化思想的影响，更加深刻地认识到，国家要打败侵略者，不仅要有民族气节，而且还要引进西方先进的科学技术，兴办近代军事工业。他提出，要有效抵御来自海上的侵略，必须建立水师，而要建立水师，就必须建立造船厂打造兵船。
1866年，左宗棠在任闽浙总督时，在福州马尾创办了福州造船厂，即福州船政局，这是“中国海军萌芽之始”。他在给朝廷的一份奏折中，对创办福州船政局的必要性作了充分陈述。他认为，在两次鸦片战争中，侵略军的兵船之所以能远渡大洋，并能在我沿海肆意袭扰，直逼我天津塘沽，是因为他们有先进的轮船，而我们因没有那样的轮船，因此无法抵御侵略者。他计划在福州船政局建立之后，建成一艘船，就训练一船军兵，使该船有战斗力，用5年的时间，就可以造出数条船，建立起一支像样的船队，与侵略者抗争。比较可贵的是，左宗棠在这份奏折中还把造船和发展经济联系起来，所造船只可以在海上运输货物，促进沿海各省的贸易，使百姓富裕起来，国家也就富强了。
但在当时，要不要办造船厂意见并不一致，有一种意见认为造船费用太大，不如租船或买船便利。但左宗棠认为，租船和买船不但工费贵，而且受制于外人。外国侵略者绝不会为我们中国着想，一旦遇到外敌入侵，我们要使用这些兵船抵御时，很有可能这些船就不听调遣，即使能调遣，也很有可能不按我们的意图行动，使我们无法有效抵御入侵者。而且轮船用过一段时间，就得检修，还得求外国技术人员来修；如果他们不来，船就不能发挥作用。因此，他坚决主张建立自己的造船厂。从长远利益来看，买船、租船都不如造船。福州造船厂在他的努力下，自1869—1907年，共造各式轮船40艘，对当时清朝的海防防卫、沿海航运等都起到了重要的推动作用。
左宗棠在引进西方科学技术，建造中国自己兵船的同时，特别重视对近代军事人才的培养。他深刻地认识到，造船要配套，造船的同时要培养自己的驾驶和检修机器的人员，这样才不会受制于人。要培养自己的制造、驾驶、检修一整套人员，就要兴办学校。于是，1866年，左宗棠在筹建福州船政局时，一面派人赴西方购置造船所用机器、部件，一面在福建马尾山上，开设了我国近代的第一所海军军官学堂——福州船政学堂，免费招收学生，请外国教师来教。学生既学外语（包括英语、法语），又学自然科学和理工学，学习有关造船技术及工艺，学习近代海军战术和驾驶等方法。当时船政大臣沈葆桢（林则徐的女婿）说，福州船政局“创始之意，不重在造，而重在学”。从这点来看，左宗棠是有战略眼光的，只要有自己的技术人员，造船就不会有困难了。
福州船政学堂是中国最早培养海军和造船技术人员的学校，后来不少重要的海军将领，如邓世昌、林永生、严复、萨镇冰、刘步蟾、林泰曾、詹天佑、郑清濂等，均出自该学堂。当时有个英国海军军官叫寿尔，参观了福州船政局之后赞叹说，船政局的整个制度表现了创办者的天才和才能。有人把福州船政局和李鸿章在上海办的江南制造总局对比，认为上海江南制造总局，条件远比福州船政局优越，但李鸿章没有创办一所学校，目光不如左宗棠远大。由于船政局很重视“学”，因此把培养中国的技术人员，放在重要位置上。船政局聘请外国人当技术监督，双方协议，按规定时间把中国技术人员培养到能独立工作；如果教学有方，提前教会中国学生，酬金从优。而且还规定，一旦中国技术人员掌握技术之后，这些洋匠一律按协议回国。福州船政局的这些措施，培养出一批批技术熟练的中国技术人员，对我国造船业与航海业的发展以及对增强国家的海防都起到了十分重要的作用。对此，清政府也对左宗棠大加赞赏，称左宗棠为国谋利，站得高、看得远。
1874年，日本侵略台湾时，沈葆桢奉命督福州水师去台湾作战，迫使日本政府派员到北京议约，不敢用武力强攻台湾。当时沈葆桢带往台湾的船只大多是福州船政局制造的。中法战争以前，中国有北洋水师、闽江水师和南洋水师。闽江水师11艘兵舰除2艘是从美国购进外，其余9艘均为福州船政局制造。北洋水师的康济、威远、眉方、泰安、镇海等也出自福州船政局，占全部北洋水师舰只的2/5.南洋水师的澄庆、横海、镜清、开济、靖远等也出自福州船政局，占全部南洋水师舰只的1/3.水师的建立、在国家海防中发挥的作用，左宗棠功不可没。