东汉至宋、金的1200年间，长城的修筑处于低谷时期，这是与民族关系及政治形势紧密联系的。
东汉之初，内部争斗未息，统治未稳，社会动荡，匈奴族又乘机骚扰边郡。中原的一些反汉势力也往往与匈奴勾结，其中尤以卢芳为甚，与匈奴联兵入塞。光武帝患之，除发兵击伐外，在山西、陕西、河北诸省修筑了简易长城和烽燧亭侯。
东汉后，居于东北的鲜卑逐渐强大，对中原王朝时服时叛。
在两晋近百年中，北方的统治者是人居的少数民族，而各国间战斗频繁，无暇也无必要去筑长城。
534年，鲜卑族宇文泰在关西拥立孝武帝，高欢在邺(今河北磁县)拥立孝静帝，魏分裂为东、西两部，史称东魏、西魏。在六镇起义中，柔然得以强大，又成大国，东魏不得不筑长城以防柔然。
在南北朝时代，北齐是筑长城次数最多的王朝。577年，北周灭北齐。其后突厥屡寇边境，北周因此修缮了北齐长城。
581年，杨坚统一了中国，国号隋。隋利用突厥内部的矛盾，远交近攻，使离间计，逐步削弱突厥。但同时，隋也多次筑长城防备。隋末，突厥又成为北方大国，为患北境。
618年，李渊建立唐朝。唐初，国内仍有割据势力，政局未稳。东突厥勾结割据势力，连年寇边，攻破城邑，掳掠人口财物，甚至严重威胁到首都长安(今陕西西安)的安全。唐太宗即位后，积极训练精锐军队，终于击败了突厥。
唐朝是我国历史上强盛繁荣的朝代，“中国既安，四夷自服”。在其统治的290年间，朝廷没有兴长城之役，但为一时之需曾修筑防御设施，边境的烽燧制度也很严密。
唐朝廷没有大兴长城之役，但唐的边国高丽国曾修过长城。
唐自安史之乱(755-763年)后出现藩镇割据局面。唐末，黄巢、王仙芝农民起义失败，各地反动势力纷纷拥兵自立，后来演变为五代十国。
宋朝边患严重。
南宋广大人民深受战争离乱、颠沛流离之苦，盼望收复中原的日子到来。
五代时没有建长城。在短短的54年中更迭了5个朝代，统治者忙于争夺帝位，无暇顾及抵御外侮。
南宋时占据中原的金国西北边境受到塔塔儿(鞑靼)和日益强大的蒙古人威胁，于是筑起了规模较大的长城。
金和南宋先后为蒙古人建立的元帝国所灭。
蒙古人的铁蹄征服了半个世界，在中国建起的元朝(1271-1368年)拥有大漠南北。这100年间也没有长城之役。
东汉至南宋千余年间，政权几经更迭，而居于北方的劲敌是换了一族又一族，始终威胁着中原人民的生活。由于中原政权的强弱和对外政策的不同，有的朝代兴筑了长城，有的朝代没有兴筑。纵观这一时期所兴筑的长城工程，规模不大，历时大多短暂，除金长城外，长度也都有限。一些地段早已被夷为平地，使考古工作存在一定的难度。