行武出身的宋太祖赵匡胤建立宋朝以后，深知部下握有重兵所潜在的危险，因此他在进行统一天下的同时，也在着重思考这样一个问题，即如何加强中央集权的专制统治，削弱地方权力，将一切权力收归中央政府，以使唐朝末年以来长期存在的藩镇割据局面不再重演，从而避免宋朝成为五代之后的又一个短命王朝。
建隆元年（960）末的一天，宋太祖向大臣赵普询问道：“从唐末以来，在短短的几年间，帝王换了八姓十二君，争战无休无止，老百姓深受其苦。我想要从此息灭天下的争战，制定一个建立国家长治久安的策略，你有什么好的办法吗？”赵普精通治道，对这些问题也早有所考虑，听了太祖的发问，他便说这个问题的症结，就在于方镇太重，君弱臣强，治理的办法没有奇巧可施，只要削夺其权，制其钱谷，收其精兵，天下自然就安定了。赵普的话还没说完，宋太祖就连声说：“你不用再说了，我已经全明白了。”于是一个重建中央集权专制制度的计划就这样酝酿出来，并逐步付诸实施了。
宋太祖先是上演了一出“杯酒释兵权”的闹剧，在建隆二年七月的一天，他利用召集石守信、高怀德等禁军高级将领喝酒之际，话中有话，让石守信等宿将意识到自己手中握有兵权可能招来杀身之祸，不得不被迫称病，从而不费吹灰之力便将这些人的兵权彻底解除。
其次，是对地方藩镇采取强干弱枝的方法。唐朝最终由于藩镇割据而灭亡，并祸延五代十国，造成长期分裂的局面。这活生生的事实，使宋太祖强烈地意识到道一州一县三级制的行政区划对于中央集权的政府来说是绝对不可取的，必须采取一种新的有效的方法来改变这种局面。
宋太祖赵匡胤为了削弱节度使的权力，首先是把节度使驻地以外兼领的州——当时借用西汉初年诸侯王国属郡的名称而叫做支郡（如山南东道节度使就统辖襄、均、房、复等四州，节度使驻在襄州，其余三州就称为“支郡”）收归京师，由中央政府直接统辖，同时由中央派遣文官出任地方官——知州，负责管理各州事务，但是仍然保留了原来各州的州刺史。知州的全名是权知军州事，意思就是暂时负责该州的军民事务，其实这一职务是一个固定的官职，只不过当时为了让那些节度使们易于接受而在名称上做了点花样，等到后来州刺史被废掉，这一名称中的“权”字也就省去了。知州每三年更换一次，直接对中央负责，向朝廷奏事，不再听命于地方上的节度使。至于县一级政区的官员的情况也与州类似，中央政府派遣中央官员担任知县而用来代替原来的县令。对于一些五代以来一直割据一方的节度使，宋太祖又重演故伎，施展“杯酒释兵权”的手段，将他们逐一罢免。后来，为了防止知州在地方上的权力过大，又设置通判作为知州的副手，让他们彼此相互牵制，以便起到分知州权力的目的。
宋太祖把各地节度使所统领的各州收归中央后，本想由中央政府直接来控制州与县，实行行政区划的二级制，但是他很快就发现，在疆域如此广阔的国家中，想要推行纯粹的二级制几乎已成为一种梦想，特别是在州这种统领县的一级政区数目很多的情况下，不在二级制之上设立监察区，中央政府想要进行有效的运作，是根本办不到的。然而一旦设置监察区，又很难避免不发展成为三级制政区，从而削弱中央集权的统治，导致分裂局面的再度发生。
后来，宋太祖从唐代转运使的设置中得到启发。唐朝的转运使在最初设立时，叫做水陆发运使，负责管理洛阳与长安之间的粮食运输，之后，又设立过江淮转运使，掌管江淮各道与全国各地的粮食、财赋的转运，唐代宗以后，又常与盐铁使并为一职，称作盐铁转运使。这是一种纯粹的临时性的理财差遣。在乾德年间（963～968），宋太祖把唐朝这一制度稍加改造，把这个临时性的差遣变成了固定的官职，让转运使负责征收和转运地方上的水陆两路财赋。由于要转输，就需要与交通路线发生联系，所以宋代统治者又按照全国的地理形势重新划分，让这些转运使分路进行管理，转运使的全称是“某路诸州水陆计度转运使”，但地方上的实权仍握在州的长官手里。路在当时与宋朝承继唐朝而实行的十三道并存。随着时间的推移，到了宋太宗太平兴国二年（977），下诏把18个节度使所领的诸州全部收归中央，彻底废除了支郡制度，使转运使的权力逐渐扩大，进而发展到了，地方上的一切行政管理事务全都交到了他的手中，成为州之上的地方行政长官。道相应变得有职而无权，到了宋太宗淳化五年（994），道便被废掉了。这样，宋朝在州之上，便形成了新的一级行政区划——路。
因为转运使拥有地方军、民、财、刑大权，并辖有幅员广阔的区域——路，这无疑便构成了一种潜在的割据力量。宋朝统治者不愿意把一路的大权长期集中在转运使手中，为了分夺转运使的权力，景德四年（1007），真宗正式设立提点刑狱司，长官叫做“提点某路刑狱公事”，简称提点刑狱或者是提刑，负责掌管一路的司法、刑狱和监察，另外还有荐举官员的权力。
除去转运使司和提点刑狱司之外，在宋朝的一些路一级的行政区划中，还设有提举常平司和安抚使司，前者负责储备粮食平抑物价，后者掌管一路的兵民之事。除安抚使司（简称为帅司）之外，转运使司、提点刑狱司、提举常平司通称为诸监司，又分别简称为漕、宪、仓三司。这种将一路之中的军、民、财、刑权分散于上述四司，使路不能成为单一的一级政府机构的做法，是宋朝统治者的首创，在此之前的各个朝代，仅是在每一级的行政区划中，设立一个单一的地方政府与一名单一的行政长官。
在地域上，这些监司的管辖区域虽然都叫做路，但是各监司的路并不完全一致，而是互有交叉，在转运使司看来是一路的，在提点刑狱司却可以是两路，在安抚使司则又可以是四路，甚至是六路。我们看了下面的一个实例，就会对这种情况有较为清楚的了解。当时在西北地区，从转运使司来说设立了陕西一路，但是从提点刑狱司来说，则设置了永兴军路与秦凤路两路，再以安抚使司来看，则又分成为永兴军路、延路、环庆路、秦凤路、泾原路及河熙路等六路。另外，即使有两司路在所辖领域上完全吻合，其治所也会有意地被人为安排在两个不同的地方，从而让他们形成各自独立的权力管辖范围。
宋朝中央政府就是利用以上这些办法让各监司彼此之间相互牵制与制约的，加之让路之下的各州依然保持直接向中央奏事的权力，这样就使路不能成为严格意义上的州之上的一级政区，从而收到有效控制地方、加强中央集权的效果。
总体来说，虽然从权力分配的角度来看，宋代实行的是二级半或者是虚三级，但如果从行政区划的角度来说，宋代实行的是路—州—县三级制。
北宋地方行政制度所实施的这些与前代不同的变革，一方面可使地方路一级组织不能形成单一的权力机关，从而不会产生割据一方的地理基础。另一方面，宋代路、州、县各级行政区划的官员都由中央朝官担任，可以避免出现地方分权的人事基础。
由于这两方面的原因，使宋朝中央集权高度强化，地方分权则大为削弱。这种做法被称作强干弱枝，又叫内重外轻（朝廷是干、内，而地方为枝、外）。但是这样做的一个严重后果就是，地方上的对外防御与对内治安能力都不得不大打折扣。因此，宋朝虽然可以使自己的政权免于亡于农民起义和藩镇割据的危险，但是却无法逃脱亡于外敌入侵的噩运。后来北宋亡于金人，南宋又亡于蒙古就充分地说明了这一点。