秦始皇死后，蒙恬被诛，天下叛秦，中国陷于各强纷争之中。而秦时所遣徙戍边的战士和贫民陆续离去，边境失去戒备，于是匈奴遂又南侵。
汉武帝在与匈奴进行战争的同时，为加强边防，保卫边境屯田，在西北和北部边境修建了计逾1万公里的防御工程，这些防御工程汉代人称之为塞或边塞，它包括了长城、壕堑、亭障、烽燧等。
据《史记》《汉书》记载，重要的边塞修筑有五次：一是元朔二年(公元前127年)，卫青在收复河南地后，筑朔方城，修缮了秦蒙恬的边塞，以黄河为险固；二是元狩二年(公元前121年)，卫青、霍去病兵出焉支山、祁连山后，由令居始筑至酒泉的边塞，修造时间各家考证不同，大约在元狩三年至元鼎六年(公元前120-前111年)；三是元封三年(公元前108年)击破姑师(在今新疆吐鲁番西)后，由酒泉列亭障至玉门；四是太初元年至四年(公元前104一前101年)伐大宛(约在今乌兹别克共和国费尔干纳盆地)后，自敦煌西起亭障至盐泽；五是太初三年，遣徐自为出五原塞外数百里至千余里，筑城郭列亭至庐朐，又令路博德筑塞居延泽上。
西汉长城西起新疆，东抵辽东。它穿过浩瀚的戈壁沙漠，横亘于无垠的草原，翻越崇山峻岭，或塞墙、堑壕，或列燧，因地制宜，延绵1万余公里。西汉在沿线大力开展军屯，并徙民实边屯田，筑起了一道坚固的防御线。这对抵御匈奴入侵、开发边境都起了巨大的作用。抗击匈奴、修筑长城固然是汉武帝的英明决策，但广大劳苦大众也为此做出了重大贡献，付出了巨大牺牲。《汉书·贾捐之传》中说：“当此之时，寇贼并起，军旅数发，父战死于前，子斗伤于后，女子乘亭障，孤儿号于道，老母寡妇饮泣巷哭，遥设虚祭，想魂乎万里之外。”长城是由人民的血和泪筑起的。