444年，北魏将敦煌置于自己的直接控制之下。
北魏接管敦煌后，很快就在这里设立了军镇，统领酒泉军、张掖军、晋昌戍、乐谊戍等，管辖范围似乎已及西汉时的酒泉郡，因而历史上以敦煌为名的州郡、军镇等行政区划中，要数北魏时敦煌镇的辖地最大。这次设镇对敦煌的影响很大，势力范围的增大尚在其次，最主要的是将河西走廊西端的政治中心又从酒泉移回了敦煌。
北魏重视敦煌的原因在于它所处的重要战略地位。
北魏平定建都张掖的北凉，标志着中国北方的统一。这个新兴王朝又将敦煌视为经营西域、向西进取的据点，以后成周公万度归两度经由这里西破都善、焉耆、龟兹，控制了西域大部分地区，打通了断绝多年的丝绸之路，敦煌的政治地位更加突出，自405年西凉李篙迁都酒泉后，敦煌无力制御西域的形势至此有了极大改观。
但是当时在北魏的西北地区存在着一股强大的游牧民族势力柔然，他们不断向西域、河西扩张，敦煌也多次受柔然骚扰。
在北魏向敦煌派驻镇都大将的同时，5世纪80年代，柔然的劲敌高车逐渐强大了起来，与北魏呼应，夹击柔然。柔然衰微，进入6世纪以后，敦煌终于安定了下来。
孝明帝孝昌年间(525～527年)，北魏罢敦煌镇置瓜州，敦煌变成了瓜州属郡，范围更小了。
明元帝的四世孙元荣从洛阳来出任瓜州刺史。在他的治理下，敦煌社会经济逐渐恢复，并有所发展。
北魏末年阶级矛盾尖锐，宇文泰另立文帝，史称西魏，敦煌转为西魏所有。
西魏初期，东阳王元荣以宗室王身份留任瓜州刺史，继续掌领敦煌。纷乱多变的政治局面令元荣更加信佛，在敦煌地区大兴佛事，施写了几百部佛经，并掀起了继北凉之后莫高窟第二股建窟热潮。
北周对敦煌地区的建置又做了两次变动。因偏居西隅和地方执政者信佛等原因，敦煌的佛窟兴建活动却并未受到多大影响，莫高窟和西千佛洞中至今还保留着许多有精美壁画、塑像的北周洞窟。