作为行政区划的“省”，在它最初出现的时候，完全是出于一种避讳。西汉昭帝立元氏为皇后，皇后的父亲名禁，为避讳，王宫禁地由“禁中”改称“省中”。“省”字在这个时期成为皇宫禁地的称呼。魏晋南北朝时期，朝廷机要部门都设在省中，历代相沿，省中就成了官署之名。元世祖忽必烈统一中国后，整顿中央和地方的行政机构，创立行省制度，在中央设行书省，总理百官，与枢密院、御史台分掌政、军、监察三权，成为中央最高行政机关。忽必烈又分别在湖南、浙江、四川、云南等11处设立行中书省，简称行省，置丞相、平章等官职，与中书省互为表里，管辖所属府、路、川、县的军政事务。从元代开始，行省开始成为地方最高行政区。
明洪武九年（1376年），明太祖朱元璋改行省为布政司，但人们仍习惯称布政司为省。