1861年，清政府在北京嘉兴寺设立了抚夷局，处理对外交涉事务。后来，这个名称已不合事宜。1860年1月20日，清政府根据奕？、桂良、文祥等所上的“通筹夷务全局析”六条章程中的首条：“京师设立总理各国事务衙门以专则成”的建议，设立了“总理各国事务衙门”，作为应付洋务的中央机关。总理衙门由奕诉、桂良、文祥三人兼领总理衙门大臣，下设英国股、法国股、俄国股、美国股。调内阁、军机处和各部院官员、负责日常工作。1883年，又增设海防股，管理南洋海防和北洋海防，包括长江水师、北洋海军，以及与之有关的各机构和设施。
总理衙门作为一个外交事务部门，不但取代了原由理藩院和礼部掌管的大部分事务，面且包办了一切需同外国发生联系的活动。如，向外国购买军火、船舰、机器；请外国人担任教练、顾问；向外国派遣留学生；管理海关税收，等等。它实际上成为中央各部的一个综合机构，而且其主持事务之人，往往是具有实权的王公大臣。如，1861—1864年，由道光皇帝的第六子、咸丰皇帝的弟弟恭主持，1884—1894年，则由另一位王公庆新王奕劻主持。
在总理衙门成立后，清政府还设置了南洋和北洋通商大臣。南洋通商大臣是1866年由五口通商大臣改称，管理第一次鸦片战争后在南方开放的五个口岸，以及第二次鸦片战争后开放的沿江及南方各口岸。通商大臣开始时由江苏巡抚兼领，1865年后由两江总督兼领。北洋通商大臣管理第二次鸦片战争后开放的北方三口，所以又称三口通商大臣。开始时由侍郎衔候补京堂崇厚掌管，1870年起改为北洋通商大臣，由直隶总督兼领。南北两个通商大臣，名为“通商”，实际上“通商”以外的政治性外交等事务也是涉及的。也就是说，既办理有关各口岸的通商事务，也办理其它各项对外事务。
关于总理事务衙门、南洋和北洋大臣在洋务运动中所起的作用，左宗棠曾总结说：“洋务关键，在南北洋通商大臣，而总理衙门揽其全局。”由此可见，总理事务衙门成了凌驾于六部之上的筹办洋务的最高行政机构，而清政府也将学习西方先进技术的自强新政作为既定国策了。所以，研究洋务运动的学者，往往就把总理事务衙门的成立，作为洋务运动开端的标志了。