通过两次鸦片战争，大清王朝积贫积弱的面目被暴露无遗。在强烈的危机感驱使下，中国出现了向西方学习先进科技的洋务运动。“师夷之长技以制夷”，向外国购买机器设备，引进先进技术以发展我国近代的造船工业。因此，设立马尾船政局就提到清政府的议事日程上来。
同治五年（1866年）春，左宗棠上疏朝廷说：“欲防海之害而收其利，非整理水师不可；欲整理水师，非设局监造轮船不可。”左宗棠认为只有创立中国自己的军事工业基地，才能从根本上打破西方列强的专利，真正做到“师其长以制之”，中国海军方能立于不败之地。
清政府批准造船奏议后，闽海关拨出船政经费。左宗棠即着手在马尾筹备建厂事宜。在马尾设立造船厂有利因素有四：一是马尾地势险要便于防守；二是马江江阔水平，深达十二丈，涨潮则倍之，既可容纳设计、制造船只，也适合兴建工厂沿岸设施；三是马尾靠近福州，便于官员特别是闽浙总督的监督；四是闽海关在附近，资金有保障。
正当马尾船政局紧锣密鼓地筹办之际，左宗棠奉命调任陕甘总督。左宗棠是个明于识人、善于用人的洋务派官员，他认为主持近代工业，要有“熟悉洋务”，且“能久于其事”的人才，“然后一气贯注，众志定，而成功可期”。离闽在即，选任能继办其未完之事的官员已迫在眉睫。经过慎重思考，他选中了林则徐的女婿沈葆桢，理由是沈葆桢重视西方科技，主张发展民族经济，在洋务派中有较高威望。清政府批准了左宗棠的推荐奏议，除特命沈葆桢总理船政外，还由“部颁发关防，事涉船政，由其专奏请旨，以防牵制”，并赐予“专折奏事”的特殊权力。尽管在籍丁忧的沈葆桢一再婉谢，但碍于左宗棠的推荐最终也只好勉力支持“中国无一人历其事”的近代造船工业。
沈葆桢为人沉毅清廉，明知船政之事难为，一旦接手，只能迎难而上。当时顽固守旧势力非常强大，最早的近代工业马尾船政局，理所当然受到他们的反对和攻击，特别是当时闽浙总督吴棠给船政事务设置了很多障碍。沈葆桢出于对洋务事业的责任心，为了维护船政顺利进行，向清廷上奏，指出吴棠对船政抱有成见，不利于船政事业的发展。为了推动近代海防建设，沈葆桢慷慨激昂地表达“船政系臣专责，死生以之”的决心。
除了顽固守旧势力的反对外，沈葆桢还要面对西方列强的插手与破坏。西方列强为了维持其海上霸权不遭削弱，不愿意中国发展民族造船业。海关总税务司赫德妄图操纵、控制中国造船业的阴谋破产后，遂指使其属下闽海关税务司美理登出面活动，企图插手马尾船政事务，又遭沈葆桢拒绝。赫德并不死心，又进行了一系列的造谣、破坏活动，但他操纵、控制中国造船业阴谋始终未能得逞。
对船政事业，沈葆桢坚持“主权在我”的原则。认为“购置者权操于人，何如制造者权操诸己”。为了引进西方先进的科学技术，船政局聘用了不少外国海员、工匠及教师。对待这些外国人，在经济上，船政局给其优厚待遇，在政治上却是寸权不让，坚决奉行“权自我操”的政策。沈葆桢对洋人赏罚分明，不仅论功行赏，也量过行罚，对不服从领导者予以开除，令其回国。总之，沈葆桢在船政创办之初，面对新兴的事业，面对西方列强与顽固守旧派种种干扰，凭借强烈的民族责任感排除了一个又一个障碍，在坎坷的近代工业化道路上前进。
同治八年（1869年）6月10日，在沈葆桢的苦心经营下，在全体船政员工的共同努力下，马尾船政局自行制造的第一艘轮船“万年青”号完工下水。该船系木壳蒸气轮船，船身长238尺，宽27.8尺，吃水14.2尺，排水量1370吨，载重450吨，螺旋桨推进，备有风帆助力，航速10节。9月25日，沈葆桢登船试航、试炮成功，标志着历经艰辛的中国近代海防工业开始起步了。
在此后的一年半内，“湄云”号、“福星”号、“伏波”号轮船相继完工下水。可沈葆桢并不满足。他认为蒸汽机是全船的关键机器，前几艘轮船的蒸汽机都是进口的，容易受制于人。只有仿制蒸汽机，中国造船事业才有前途。从同治八年（1869年）年底开始，马尾船政局开始制造150匹马力的轮机。技术人员与工人克服重重技术难关，终于试制成功，安装于第五号轮船“安澜”号上，该船排水量为1258吨，航速10节。同治十年（1871年）6月，“安澜”号完工下水。当时一位英国军官参观马尾船政局后深有感触地说，其产品无论技艺还是细节都可与英国的产品相媲美。我国第一台仿制蒸汽机建造成功，是近代海防工业的一个里程碑，在我国造船史上有着极其重要的意义。
考虑自制轮船有蒸汽机功率偏小、炮位少的弱点，马尾船政局向国外订购了250匹马力的蒸汽机，用于建造大轮船“扬武”号。这是沈葆桢主持船政事务建造的最大一艘兵轮。“扬武”号排水量1400吨，设三桅，航速可达12节。船上安装10尊惠特沃思前膛炮，这些火炮从口径和数量上均超越以前所造。到同治十一年（1872年）为止，共有大小10艘轮船完工下水。由于船政经费已颇吃紧，顽固派大臣又不断弹劾，沈葆桢为了摆脱困境，上奏“若虑兵船过多，费无从出，则间造成商船未尝不可，亦不患领者之无人。但兵船御侮之资，不可因惜费而过少耳。”朝廷批准暂造4艘商轮，以后再造兵轮。到同治十三年（1874年）七月止，沈葆桢全部完成了左宗棠原定的第一期造船计划。这些兵轮除福建水师自用外，其余拨给沿海各省，维持近海治安。当时中国近海一带商船增多，海盗活动十分猖獗，危及海上贸易。清廷水师的旧式兵船速度太慢，一出海围剿，海盗早已逃之夭夭，赶之不及。待清水师装备了新式兵轮以后，海防形势为之改观，兵轮速变快、洋炮威力大，打得海盗船破人亡，为患数十载的海盗终于戡平。
沈葆桢对海防建设有两大贡献：一是建造兵轮，二是培养海防人才。马尾船政局创立了中国第一所海军学校——马尾前、后学堂。左宗棠、沈葆桢把培育海军人才作为“师夷”之根本，其宗旨是为近代海军输送具有专门知识的各类人才。因此，马尾前、后学堂只招收天资聪颖、粗通文义的子弟入学。马尾船政局建设工程破土之日，也是学校新生入学之时。
船政学堂对学生要求非常严格，不但培养出了许多近代工业的工程技术人员，还向中国近代海军输送了为数众多的将才。这些人才大都是栋梁之材，成为我国海防建设的主要依靠力量，荣膺振兴中华的重任。除自身培养外，沈葆桢还上奏朝廷，建议派遣留学生出洋留学深造。建议虽未得朝廷同意，沈葆桢还是于同治十三年（1874年），令日意格在船政学堂毕业生中挑选了几个优秀人才随其出国参观学习，以期开拓视野，增长见识，强化“洋技”。沈葆桢离任后，马尾船政局的后继者根据他原来的设想，在1877-1897年的20年间共派出4批官费留学生。应该说，由于沈葆桢在培养海防建设人才上的远见卓识，中国海军军官中闽籍居多。李鸿章后在天津设立北洋水师学堂，其总教习严复就是马尾船政后学堂的第一届毕业生。除注重培养海军学生外，沈葆桢也注意到自己要学习西方先进的科学技术，掌握造船业务，以便更好地管理近代大工厂。他经常不耻下问，向技术人员请教，学习看图纸，充实海防知识，成为当时最杰出的海防专家。
自康熙统一台湾后，清政府就在台湾驻兵设防。“置水陆十营，星罗棋布，镇以元戎，遂使倭患永息”。“其制：以万人更番、三年毕戍，埒于九边重镇云”。从兵丁设置看，清廷在台、澎等处设总兵一员、水师副将一员、陆路参将二员，陆路兵8000人，水师兵2000人。军队调自福建，属绿营兵，因三年一换班，故称“班兵”。从水陆营制设置看，台湾方面设有陆师镇标中营、镇标左营、镇标右营、南路营、北路营。水师则设中营、左营、右营。澎湖方面设水师左营、右营。雍正十一年（1733年），添设台湾城守营。乾隆五十三年（1788年），分设南路下淡水营；嘉庆十四年（1809年），增设艋甲营。虽台、澎的兵力、营制常有增减，但孤悬海岛，士兵不尊王法，加上军队又是轮番戍守，管理不善，故台湾防御空虚，驻防士兵战斗力低下。