西晋统一的局面没有维持多久，“永嘉之乱”以后，北中国很快进入了大分裂的十六国时期。十六国中的前凉、前秦、后凉、西凉、北凉都建立并发展于西北地区，河西敦煌也渐次成为了它们的辖地。
最先占有河西的是前凉张氏，其奠基者张轨是一位很有见识的统治者。永宁元年(301年)，普惠帝任命张轨为护羌校尉、凉州刺史，张轨立即走马上任。那时的西晋已因战乱而国力衰弱，自身难保，根本无力过问边地的政事，所以张氏虽然奉晋室正朔多年，但在河西的统治实际上却是非常独立的，张轨此次上任也就是张氏在河西长达76年统治的开始。
4世纪初，鲜卑贵族曾在西北猖獗一时，人民饱受其扰，苦不堪言。张轨到任后立即调兵遣将，很快就将他们镇压下去，得到了河西人民的拥戴，为张氏政权以后的统治铺平了道路。
站稳脚跟后，张轨为张氏政权制订了一系列政策，开始经营河西。在政治上，张氏极力推行拥戴司马氏，维护晋室的政策，从而赢得了河西汉族人民的信任与支持，走廊内部得以长期保持安定局面，抗御住少数民族贵族的袭击，并博得关陇地区汉族人民的赞赏，邻地的百姓纷纷投奔凉州。
张氏政权改变拥戴晋室的方针始于张骏末年。345年岁末，张骏自称大都督、大将军、假凉王，置官僚府寺拟于王者，因而有些研究者将这一年算做前凉割据政权的起始。次年5月张骏病死，世子张重华继位为假凉王。
至349年，张重华自称丞相、凉王、雍秦凉三州牧，公开脱离了晋室的羁糜。到张祚掌权后更僭帝位，立皇后封太子，改年号为“和平”。这对前凉的统治产生了消极的影响。
张氏在政治上的另一个策略是联合河西大族，借助他们的力量稳固统治。汉武帝以后几百年的发展使魏晋时的河西敦煌形成了一些名门望族，具有左右当地形势的实力。
张氏在军事和外交上总是根据具体形势随时调整对敌政策，且战且和。这种灵活多变政策的准确运用使得前凉统治区安定少难。
张骏在位时曾将敦煌、晋昌、高昌、西域都护、戊己校尉、玉门大护军等3郡3营合并，依境内的鸣沙山取名为“沙州”，这是历史上“沙州”一名在敦煌地区的首次出现，当时的州治就设在敦煌。但事隔不久，前凉又曾一度取消沙州，复称敦煌郡。
前凉张氏时期，敦煌等地的佛教信仰也盛行起来，各种佛教活动中又以禅业发展最快。