唐朝开国以后，又把郡改为州，恢复了隋朝初期的州县制（后来在唐玄宗天宝元年（742），又改州为郡，到肃宗乾元元年（758），再一次将郡改回了州），不过一个新的问题又摆在了统治者面前，那就是州的数目在唐朝兼并各割据势力，重新平定天下之后，又出现了大量的增长。这是因为在隋唐之际，群雄并起，那些率兵占据一方的地方豪杰，只要归降唐朝，唐朝就会在他所盘踞的地方设置州县，并给他一个州刺史的头衔，这样，在不长的时间里，州的数目便自然又膨胀起来。特别是在南方（今天的广西、湖南和四川一带）的少数民族地区，由于当地表示愿意听命唐朝的首领很多，出现了许多新的州刺史，因此，州的分布也就变得尤为密集。唐朝的第二任皇帝太宗李世民，为了改变这种设州过多的局面，在他即位伊始，便着手开始对一些州进行省并，但是调整的情况似乎并不理想，到了13年之后的贞观十三年（639），唐朝中央政府直接控制的州还是有358个之多，这个数目已经大约是汉郡数目的两三倍了。
其实，由于唐朝的疆域比汉朝要大，对地方的统治也比汉时要深入得多，汉唐虽然同样实行的是两级制，但这时唐朝州的数目已不能像汉朝时的郡一样，降回到100多个了。然而要让中央政府统管这300多个州，着实是一个不小的难题。曾经有这样一个故事，生动地说明了这一问题。唐太宗为了做到对每个州刺史心中有数，按他们的业绩好坏决定奖励或者是惩罚，便想出了一个办法，让手下人把当时300多个州刺史的大名一一写在他每日办公大厅内的屏风上，以便在他批阅奏章的空闲时间，对这些州刺史们有所熟悉。这虽然反映了唐太宗是一个勤勉的皇帝，但从中毕竟透露出对地方大员不便管理的不少无奈。当时就有大臣从设置官吏的角度提醒当权者，在汉代要想挑选中100多个好的郡太守已经是一件非常不容易办到的事情了，更何况我们现在面临的问题是要选择300多个州刺史。这种情况已使得中央政府不得不考虑在州县二级制的政区之上再设立一级监察区，对各地州刺史的所作所为进行监察，随时将地方官员贞观十道示意图的情况上报中央。设置监察区的办法，虽说不失为一项行之有效的措施，但是唐朝初年的皇帝已从前代的经验教训中十分清楚地知道，监察区一旦设立，就会存在变成一级正式行政区划的危险，到时再想撤掉，谈何容易。于是需要找到一种变通的方法。唐太宗贞观年间设立的巡察使，就是这方面的一个尝试。
贞观元年（627），唐太宗下达命令，将全国分成关内（大致相当于今陕西中、北部，甘肃陇东以及内蒙古河套等地）、河南（大致相当于今河南、山东二省黄河以南，江苏、安徽二省淮河以北的地区）、河东（大致相当于今山唐十五道示意图西全省与河北西北部内外长城之间的地区）、河北（大致相当于今河北长城以南，河南及山东二省的黄河以北的大部分地区）、山南（大致相当于今四川东部，陕西、甘肃南部，河南西南部，湖北西部的地区）、陇右（大致相当于今甘肃陇山、六盘山以西，青海省青海湖以东及新疆东部的地区）、淮南（大致相当于今安徽、江苏二省淮水以南、长江以北的地区）、江南（大致相当于今浙江、福建、江西、湖南四省，江苏、安徽的长江以南，湖北、四川江南的一部分及贵州东北部的地区）、剑南（大致相当于今四川中部和云南北端）、岭南（大致相当于今广东、广西二省和越南东北部的地区）等十道，派遣巡察使到各道去负责监察地方的官员。不过，当时巡察使的派出，还是一种临时性质，并不是常制，而十道的划分也更多地体现的是一种地理区划，还不是真正的监察区。
睿宗景云二年（711），又把巡察使改为按察使，并由原来的临时派遣改为常设官员。开元二十一年（733），唐玄宗认为贞观十道在划分上还存在着许多不够合理的地方，因此，他又作了一些调整，把地域广阔，经济文化都比较发达的江南道分为江南东道（今浙江、福建二省及江苏长江以南地区）、江南西道（今江西、湖南二省，安徽南部，湖北东部长江以南地区）、黔中道（今贵州全部及其与四川、湖南、广西接壤之地，湖北西南端）。又将山南道分成山南东道与山南西道，以四川与陕西两省东境作为分界线。另外，分关内道长安附近诸州增设京畿道，河南道洛阳附近诸州增置都畿道。这样，原来的十道就变成了十五道。每道设置采访处置使（简称采访使），让他们像西汉的州刺史一样，负责检查道内州刺史的非法行为，不仅如此，还让这些采访使们兼任各道中重要之州的刺史。于是，道便成为了正式的监察区了。
监察区的设立，一方面显示了唐玄宗在开元盛世的繁荣下对形势的高度乐观与充满自信，以至于他无需再像太宗那样，谨小慎微地去考虑监察区可能会导致的对中央集权统治不利的变化前景。另一方面，也是出于对当时监察工作的需要。没有监察区，不仅会给监察工作带来很多不便，而且还使得那些监察官员们疲于在京城与监察地之间往来奔走，不能发挥最佳的监察效果。但是，监察区一经确立，监察官员变为常职，也就很难避免变为行政区与行政官员了。天宝九载（750）唐玄宗所颁布的敕令中强调采访使只需要负责察访善恶，对于郡内的事务，则请郡守处理而不要干预的情况来看，其时监察官员的干政，成为地方上的行政官员的苗头已经不小了。