为加强皇权，巩固中央集权，汉武帝还改革了军事制度。汉代，兵役制和徭役制是结合在一起的。依汉代制度规定，男子在十五岁到五十六岁期间，要服兵役三年，称为正卒。正卒，第一年在本地当步兵、水兵或骑兵，第二年驻守京城，第三年要戍边一年。这当中，亲自服役的称践更，不愿服役的也可交钱雇人代理，叫过更。由于雇人代役的越来越多，过更钱就演变成一种赋税，叫做更赋。汉代，都尉主管地方上的军事，统领本地的正卒，进行军事训练。每年秋天，郡太守都要举行一次对正卒的检阅，叫都试。中央征发地方军，以铜虎符作为发兵的凭证，没有虎符是不能调兵的。在京都，驻有南北二军，北军守京师，士卒由京兆、冯翊和扶风地区选调，由中尉率领；南军保卫皇宫，卫士由上述三个地区以外的郡国选调，由卫尉率领。南北军力都不大，南军西汉初年为两万人，武帝初年削减为万人。
按照汉初的军事制度，军力分散于全国各地，京都缺乏重兵保护，显然不能适应武帝加强中央集权的需要。元鼎六年（公元前111年），武帝创建屯骑、步兵、越骑、长水、射声、虎贲、胡骑等七支军队，称七校尉，常驻京师及其附近。中垒校尉统领七校尉兵，所以合称八校尉。八校尉属北军系统，每校尉兵力数百至千余不等，但其大多是招募而来的。在南军系统，建元三年（公元前138年），武帝又建立了一支千余人的卫队，命名为“期门军”；太初元年（公元前104年），武帝选拔陇西、天水等六郡的“良家子”七百人组成了一支军队，叫“羽林军”，武帝还把从军战死者的子孙养在羽林军中进行培养，号称“羽林孤儿”。八校尉和期门、羽林的相继建立，加强了中央的军事实力。
在加强了自己的统治以后，汉武帝开始向外开拓疆土。在南方，武帝加强了对东南、岭南地区的控制管辖，在西南加快了西南夷地的开发；在东北，置吏设郡，使其成为汉统一的多民族国家的一部分；在北方和西北，武帝对匈奴进行了大规模的征战；在西域，加强了汉和西域多国的联系。从而使汉王朝的疆域扩大到东起朝鲜半岛东海岸，西至遥远的西域，北至阴山大漠以北，南至今越南中部的大国。