由于洋务运动的产生是以“师夷长技以制夷”为目的的，所以在初期时活动中心在于“自强”。关于这一点，奕？在总理事务衙门成立后几天，即1861年1月24日就明确地说：“窃臣等酌拟大局章程六条，其要在于审敌防边，以弭后患。然治其标而未探其源也。探源之策，在于自强，自强之术，在于练兵。”这就是说，“自强”是围绕着获得外国新式技术、武器装备和练洋操为主要内容来进行的。
奕？等在这一思想指导下，首先倡导和主持陆军的编练。这里所谓的“练军”，就是使用从外国购买的武器，聘用洋教官对兵士作配合新式武器的训练。“练军”最初在北京的神机营开始，此后陆续推广至湘军、淮军乃至于各省兵营的。1864年太平天国被镇压后，清政府曾对李鸿章等人在江苏“练军”的效果给以极高的评价：“各营得此利器，足以摧坚破垒，所向克捷，大江以南逐次廓清，功效之速，无有过于是也。”
在大量购买的同时，总理衙门还极力主张在此基础上开办兵工厂，自己制造。总理衙门刚成立时，曾国藩就提出了建议：“将来师夷智以造炮制船，为永远之利”。奕？对此意见极为重视，不几天就“筹划办理”。1861年8月，曾国藩又指出，总理衙门奏请购买外洋船炮的要求系“今日救时之第一要务”，并且发挥说：“轮船之速，洋炮之远，在英法则夸其独有，在中国则罕于所见。……购成之后，访募覃思之士、智巧之匠，始而演习，继而试造，不过一、二年，火轮船必为中外官民通行之物，可以剿发逆，可以勤远略。”奕？对曾国藩的这番高论极为赞赏，称之为“深思虑远之论”，上折奏请饬令曾国藩“访求一、二诚实洋人，令其指授造法，倘将来中国能于自造，则洋人不得据为独得之奇，而破浪乘风，可以纵横海上，亦自强之一道也。”在奕？等人的支持下，1861年曾国藩在安庆设立了内军械所。
曾国藩相信中国人“智者尽心，劳者尽力，无不能制之器，无不能演之技”，因而，在这个内军械所内，“全用汉人，未雇洋匠”，而让中国科学家华蘅芳、徐寿来主持。军械所是一个综合性军火工厂，主要生产子弹、火药、炸炮、劈山炮和火轮船。1862年8月，制成了中国第一台实用蒸汽机，它的结构与当时居世界先进水平的“往复式蒸汽机”相类似。曾国藩看了蒸汽机的试验运转后很高兴，当天在日记中写道：“窃喜洋人之智巧我中国人也能为之，彼不能傲我以其所知矣。”后来，又造成小轮船一艘。当船在安庆江面试航时，曾国藩亲临船头。他得意地说：“约计一个时辰，可行二十五六里。试造此船，将以次放大，续造多矣。”这个内军械所没有机器设备，仍采用手工生产。所以从严格意义上讲，它还不属于近代军事工业，但却为西方科学技术的引进和近代工业的建立提供了条件。
在安庆内军械所创办一年之后，李鸿章在上海也办起了制造军火的洋炮局。李鸿章是积极主张学习西方国家“长技”的另一个洋务派著名首领。1862年，他率领淮军到达上海，亲眼看到了外国“落地开花”炸弹的威力，赞之为“神技”，决心学习仿造。第二年，他在上海设立了三所洋炮局：一所由英人马格里主持，其余二所分别由丁日昌和韩殿甲主持。丁、韩二局未雇佣外国工匠，也无机器设备，完全采用手工劳动方式，后来这两个局并入了江南制造局。马格里主持的炮局，最初也是采用手工劳动方式，后来虽买到了一部分机器，但“不全之器甚多”。这个炮局一度随李鸿章迁至苏州，1865年又迁往南京，在此基础上扩建为金陵机器局。
1864年湘军攻陷天津，太平天国的失败已成定局。清统治暂时趋于稳定。这年，李鸿章致书总理衙门，提出：“中国欲自强，则莫如学习外国利器。欲学习外国利器，则莫如觅制器之器，师其法而不必尽用其人。”“觅制器之器”可以说抓住了问题的要害，所以，奕？对此很是赞赏。他立即上奏朝廷：“查治国之道，在乎自强，而审时度势，则自强以练兵为要，”练兵又以制器为先。”这个主张得到政府认可后，于是洋务派们投入了更多的人力物力，开始在全国范围内大力兴办军火工业，近代军事工业迅速兴起，成为洋务运动初始阶段的重心。
据学者们统计，从1865年至1890年，洋务派共创建了21个局厂，其中规模较大的有5个，即江南制造局、金陵机器局、福州船政局、天津机器局、湖北枪炮厂。
1.江南制造总局
最早提出建立江南制造局的是丁日昌。1864年，他上书李鸿章，提出了设厂制造炮局的理由：“方今中外互市，彼实窥我有事之秋，多方挟制。近虽大难克平，而元气未复，不得不虚与委蛇，而亦不可不熟思所以自强之策。”因此，他认为，讲求洋务已是当务之急。因为“船坚炮利”，外国之长技在此，其挟制我中国亦在此。所以，我们即使“不能拒之使不来，即当穷其所独往”；而且，“门外有虎狼，当思驱虎狼之方，固不能以闭门不出为长久之计也”。因此，他建议李鸿章，咨商总理衙门，筹措经费，选择一个适当口岸建立船厂。
总理衙门几经磋商，同意了设立船厂建议，李鸿章便提出了建厂计划。对于机器的购买，他主张在国内解决。他认为，若托洋商回国代购，“路远价重，实无把握”；若派人赴外国机器厂学习，“其功效迟速与利弊轻重，尤非一言可决”。因此，他主张：“不若于就近海口，访有洋人出售铁厂机器，确实查验，议价定买，可以立时兴造，进退之权既得自操，尺寸之功均获实际。”
于是，丁日昌按照李鸿章的指示，于1865年访得在上海虹口美商设立的旗记铁厂准备出售。他了解到该厂能修造轮船和枪炮，并且“为洋泾滨外国厂中机器最大者”，在征得李鸿章的同意后，以银6万两购买该厂及所存储的铜、铁、木料等。李鸿章将该厂定名为“江南制造总局”，并于9月20日具奏，报告购厂经过，并表达了经营此厂的雄心：“今办成此座铁厂，当尽其心力所能及者而为之，日省月试，不决效于旦夕，增高继长，尤有望于方来，庶几取外人之长技，以成中国之长技，不致见绌于相形，斯可有备而无患。”这样，近代中国历史上第一个大型兵工厂宣告成立了。
总局厂址设在虹口旗记铁厂原址，因虹口被美国占为租界，侵略者反对中国在那里制造军火；又因“厂中工匠繁多，时有与洋人发生口角生事，均不相宜”；另外，为了不断扩大规模和修造轮船，则既需要有发展余地的地界，又必须选择一临江处所。诸种因素加在一起，建厂伊始，便面临着“择地移局”的问题。
1867年夏，总局迁往上海城南高昌庙，开始圈地70亩，1870年扩大至400余亩。局内分设机器厂、汽炉厂、铸铜铁厂、木工厂、熟铁厂、轮船厂、枪厂、船坞等16个分厂；另外，又在附近买了一些零星土地设立分厂。
值得注意的是，总局在设立时，虽然是以制造军火为目的，但既注重于“制器之器”，则在军火之外，也制造各种民用器具。李鸿章在建厂时即有这一指导思想，他在具奏中说：“机器制造一事，为今日御侮之资，自强之本。……抑臣尤有所陈者：洋机器于耕织、刷印、陶埴诸器皆能制造，有裨民生日用，原不专为军火而设，妙在借水火之力，以省人物之劳费，仍不外乎机括之牵引，轮凿之相推相压，一动而全体俱动，其形象固然可见，其理与法亦确然可解。惟其先华洋隔绝，虽中土机巧之士，莫由凿空而谈，逮其久风气渐开，凡人心智慧之同，且将自发其覆。臣料数十年后，中国富农大贾，必有仿造洋机器制作以自求利益者，官法无从为之区处。”
江南制造总局的军事产品，主要有5项：
一是枪支。1867年设立枪厂之初，只能制造旧式前膛枪；1871年，开始仿造林明敦式中针后膛枪；1883年，又加造黎意枪。至80年代后期，鉴于林明敦式后膛枪比较陈旧，因而改制自行设计的快利新枪。据统计，至1895年，总局共生产前膛枪约7000余支，后膛枪约5万支。
二是大炮。炮厂虽至1878年才正式设立，但在1876年，已聘请英国阿姆斯庄炮厂的督工员麦金泉监督制造40磅重炮弹的熟铁前膛大炮，至1878年制成两尊；80年代间，又先后制造120磅及150磅重炮弹的前膛大炮；90年代初，仿造全钢后膛快炮，制成40磅及800磅重炮的前膛大炮。至1895年，共生产劈山炮及各种类型的西式大炮各300尊左右。这些大炮主要供南北洋海防及长江沿岸各炮台使用。
三是弹药。1874年设立黑色火药厂，日产1000磅；80年代末，随着后膛快枪、快炮的购买和制造，开始试制栗色火药和无烟火药，并于1892年及1893年设立栗色火药厂和无烟火药厂。至1895年，共生产各种火药约450余万磅，各种炮弹约130余万发，此外，还生产了地雷和水雷1000余具。
四是钢铁。1890年始设钢厂，此前所需钢料一直是向外商购买。钢厂有英国式15吨西门士马丁炼钢炉和3吨炼钢炉各一座。1891年炼成熟钢27000余磅；1892年为137000余磅；1893年为80000余磅，除炼钢外，钢厂还生产压轧钢板、钢轴、枪坯、炮坯等。这是近代中国生产的第一批熟钢和钢材，虽然数量极少，但却在钢铁工业方面迈出了第一步。
五是轮船。总局成立时因专造枪支，至1867年才在曾国藩的支持下设立轮船厂和船坞，并于次年造成第一艘轮船“恬吉”号（后改为惠吉号）。由于造船所需经费多，总局无力负担，在造了8艘兵船及7艘小型船后，至1885年已基本停止，以致该局在造船方面未能跟上世界先进水平。
江南制造总局虽以生产军事产品为目的，对社会经济的发展并无直接的影响，但是，军事工业的建立，必然促进采掘、冶炼等民用企业和近代电讯、交通运输业的产生和发展。70年代相继出现的轮船招商局、开平矿务局、电报局等民用企业，就是在军事工业的推动下建立的。从这个意义上说，总局等军事工业的创办，在客观上对中国近代社会经济的发展和资本主义民用企业的产生，起到了一定的促进作用。
另外，江南制造总局在传播西学和培养科技人才方面也做出了贡献。洋务派官僚兴办洋务之初就很重视翻译西书的工作。总局于1867年设立了翻译馆，聘请傅兰雅、金楷理、林乐知等英美人从事翻译，由局员徐寿、华蘅芳、王德均、徐建寅等协同工作。至清末，共翻译西书约200余种，其中大部分是属于科技类，尤其是兵工方面的书。该局长期编纂的《西国近事汇编》丛书，自1873——1899年，共出版108册，详细而系统地介绍了当时的国际形势和各国状况，大大开阔了人们的眼界，具有很大的影响。著名维新派学者梁启超在1896年撰写的《西学书目表序例》一文中对此评价很高。
在翻译西学的同时，并设立培养人才的学堂。1869年，把上海方言馆纳入总局，招收15—20岁的学生入学，学习汉文、英文、法文、算学、舆地等课程，4年毕业；1898年，设立工艺学堂，学习课程除汉文、英文、算学、绘图外，还仿照日本大阪工业学校章程，设立化学和机器两科，由徐蘅芳、徐华封、王世绶、杨渐逵等担任教习，学制4年。另外，在总局的生产实践中，也训练了大批熟练的工匠和许多近代工业的管理人才。
2、金陵机器局
1865年夏，原任江苏巡抚的李鸿章升任两江总督，在离苏州移驻南京时，将其所办的、由英人马格里和刘佐禹主持的苏州洋炮局迁往南京，厂址选定在雨花台，建立金陵机器局。
苏州洋炮局的前身即前文提到的上海洋炮局。1863年12月，李鸿章攻陷苏州后由上海随迁。当时，总理衙门决定遣散通过总税务司李泰国在英国购买的所谓“阿思本舰队”，该舰队所配有的一套制造枪炮子弹的机器，也拟同船舰一起驶回英国变卖。马格里极力怂恿李鸿章将这套机器买下，因而苏州洋炮局成为近代中国第一个采用机器生产的军事工业。