北魏是公元4～6世纪鲜卑拓跋部族建立的一个中原王朝。在用武力统一北方以后，北魏统治者为了镇压被征服人民的反抗，巩固中央政权的统治，在全国范围内推行镇戍形式的军事制度。不过，这一制度在具体实施中，又根据不同地区居民的具体情况而采取了不同的运作方式。在东南汉人大量聚集的地区，在设置军镇的同时，依然保留了州郡县三级的地方行政区划，并把镇与州的官员安排在同一个治所。镇的长官——镇将只负责军事事务，不负责管理当地的民政，但在西北鲜卑与其他少数民族居住的区域，情况则有所不同。在这里完全不设州郡县，而只用军镇来进行管理，镇与镇之下的戍所起的作用与州郡县的大体相当。镇将与戍的长官——戍主也就相当于州刺史和郡太守，他们不但管军，而且治民。于是，这一区域的军镇成为了军政合一的地方政权机构。因此，北魏前期地方上最高一层的行政区划是州镇并称的。
北魏西北军镇所管理的镇民主要有三种人，一是占大多数的拓跋族固有的成员，他们已习惯于原有的生活方式，不愿意随王室内迁，依然实行着部落式的制度。另外一部分人就是被迫迁徙到这里的汉人和其他少数民族的人。北魏建都平城后，为了充实首都及其北部（今内蒙古中部）的人力与物力，统治者便把在战争中掠夺来的人口都安置在这一片地区，让他们从事农业生产或者是游牧业的劳动。这样，在这片区域内就出现了拓跋鲜卑人与汉人和其他少数民族的人杂居的现象。还有一种人就是被发配到这里的罪犯。对于上述三种类型的人采取军镇这种军管式的方式，让他们都从属于军镇之下，不再另设民政机构进行管理，可以说是再合适不过的了。
北魏的军镇设置，主要盛行于太武帝到孝文帝前期60多年的时间内（约422～484）。后来，内地的军镇都相继改成了州，成为了纯粹的民政机构，只有北部的军镇，为了防御北方少数民族柔然的南下和镇压当地人民的反抗而保留了下来。这些北部军镇，从西向东，顺序为高平镇（今宁夏固原）、薄骨律镇（今宁夏灵武西南古黄河沙洲上）、沃野镇（今内蒙古五原东北）、怀朔镇（今内蒙古固原西南）、武川镇（今内蒙北魏六镇示意图古武川县西之土城）、抚冥镇（今内蒙古四子王旗东南土城子）、柔玄镇（今内蒙古兴和台基庙东北）、怀荒镇（今河北张北）、抚夷镇（今河北赤城北）。所谓的北魏六镇，指的就是沃野、怀朔、武川、抚冥、柔玄、怀荒等六镇，它们分布于今内蒙古的中部区域。
北魏前期，因为北方六镇靠近首都平城，是边防上的一道重要屏障，因此备受中央政府的重视，无论是在镇将的选拔，还是在镇兵的招募上，统治者都是非常用心的，只有亲信与可靠的人才能获选。另外，由于六镇的将士经常要与南下的境外少数民族柔然从事战争，保卫边疆，所以，他们还享有特殊优待，赋税与徭役也都被免除。但是自从孝文帝迁都洛阳之后，北魏六镇的情况便不比从前了。这主要是因为内迁的拓跋鲜卑贵族有许多已当上了高官，他们联合汉族的高门地主，把持朝纲，那些留在六镇的拓跋鲜卑贵族便自然受到冷落，几乎不再有进一步升迁的机会。他们当中有许多人对自己的这种境遇深感不满。
与此同时，因为都城南迁，北方边防不再受到特别的重视。不仅镇兵的质量有所下降，就连朝廷派来的镇将也大不如前。这些镇将极其贪婪，对广大的镇兵与人民进行残酷的压榨与剥削。
景帝四年（503），宣武帝为了缓和北方六镇内部日趋激化的矛盾，派了一个叫贺怀的大臣前去考察官吏的施政情况，并同时赈济当地的贫苦人民。结果令贺怀大为吃惊的是，他在六镇之中，居然没有找到一位可以称得上是廉洁守法、秉公办事的官员，当时担任沃野镇将的于祚、怀朔镇将的元尼须等人，都是百姓痛恨的大贪官，每天向贺怀告状的老百姓络绎不绝。这件事说明，六镇内部已危机四伏。
孝明帝正光四年（523），怀荒镇的军民在遭受柔然的抢劫后，要求镇将于景发给他们一些救济粮，以便可以维持生活。没想到，他们的这一合理要求遭到于景的拒绝。镇内军民对此十分愤慨，于是联合起来，杀死了于景，从此揭开了北方六镇各族人民大起义的帷幕。
第二年三月，沃野镇的匈奴人破六韩拔陵率领众人起义，先杀死了高阙戍主，又杀死了镇将，占领了沃野镇。其他各镇的各族人民见此情形，争先响应。燃起了六镇人民大起义的熊熊烈火。
破六韩拔陵率领的起义军虽然大败北魏军队，一度攻占了武川与怀朔二镇，但最后还是被镇压下去了。随着六镇各族人民大起义的失败和军镇城池的残破与荒芜，北魏的镇戍制度最终也走到了它的尽头。