但玄宗对诸王的限制也是极其严格的。他不给诸王任何权力，“专以声色畜养娱乐之，不任以职事”。而且，严厉禁止诸王与朝官来往，防止他们在朝中形成私人的政治势力。开元元年，宰相张说因玄宗任命姚崇为相，深怕与己不利，秘密会见歧王范，希望引以为后援。此事被姚崇揭发，玄宗立即将张说贬为相州刺史，赶出京城。开元八年（720年），上禁约，不使与群臣交结。光禄少卿驸马都尉裴虚己与岐王范游宴，仍私挟谶纬；戊子，流虚己干新州，离其公主。万年尉刘庭琦、太祝张谔数与范饮酒赋诗，贬庭琦雅州司户，谔山茌丞。然待范如故，谓左右曰：“吾兄弟自无问，但趋竞之徒强相托附耳。吾终以此责兄弟也。”上尝不豫，薛王业妃弟内直郎韦宾与殿中监皇甫恂私议休咎；事觉，宾杖死，恂贬锦州刺史。业与妃惶惧待罪，上降阶执业手曰：“吾有心猜兄弟者，天地实殛之。”与之饮宴，仍慰谕妃，令复位。
唐玄宗一方面“伺察诸王”，“禁约诸王，不使与群臣交结”；一方面大谈“友爱之道”，确实收到“终保皇枝”的效果。唐玄宗通过一系列措施，使政局很快地安定下来。与此同时，他的治国方针在大体上也确定了。
在玄宗的主持下，唐朝的政治体制也开始走向成熟。其中最突出的是宰相辅政制度的健全和完善。
唐初的集体宰相制，仍然不是十分健全。玄宗时代，对这一制度进行了较为成功的改进。玄宗以前，唐朝的宰相体制几经变化。唐初，以三省长官为宰相，包括中书令二人，侍中二人，尚书仆射二人。这种集体宰相制度，相对于汉代的丞相制度来说，能够分割相权，对皇帝的专制集权政治有着较好的保障作用，有利于消除皇权和相权的矛盾。但是，这种制度在武后时期被发展到了极端，宰相的人数进一步增加，宰相的任期进一步缩短。宰相队伍的庞大和任期的短暂，对朝政的处理产生了消极影响。
玄宗执政后，对过多的宰相任职人数和过于短暂的任期进行了相应的调整，宰相人数得到了一定控制，主要承担实际辅政责任的宰相一般在两人左右（通常为中书省长官和门下省长官），其余人相者，也不再像唐初那样名目繁多，基本上统一到“同中书门下平章事”或“同中书门下三品”这一名称上来，宰相的任期也逐渐稳定。在两个承担主要辅政责任的宰相中，有一个为事实上的首席宰相。一般采取的做法是：如果首席宰相是中书令，那么门下省就不再委任侍中，而是以门下侍郎（门下省的副职）主持工作；如果首席宰相是侍中，那么中书省就不再委任中书令，而是以中书侍郎（中书省的副职）主持工作。这种体制，保证了宰相班子的协调一致，使宰相在管理国家事务上发挥了更大的作用，促进了开元之治的出现，标志着唐王朝的中枢统治机构已经走上了稳定发展时期。
以往的皇帝，不管是比较开明的皇帝还是相对昏庸的皇帝，为了保证自己的专权，大都处处限制宰相权力，事事对宰相心存疑虑，惟恐宰相权力过大而威胁到自己的统治地位。在开元时期，与宰相的专任相应，玄宗与大多数抓住权力不放的皇帝不同，他能够让宰相放手从政。这一点，在历代皇帝中是十分难得的。在中国历史上，精明能干的皇帝，往往自己抓住大权不放；糊涂昏庸的皇帝，则所任宰相辅弼多是佞臣小人。但唐玄宗却不一样，他既能委任姚崇、宋璟等杰出大臣，又能做到用人不疑，放手使用。姚崇担任宰相的第二天，向玄宗奏请“序进郎吏”，玄宗不予理睬。高力士问道：“陛下新总万机，宰臣奏事，当面加可否，奈何一不省查！”玄宗答曰：“朕既任崇以庶政，事之大者当面奏，朕与共决之；如郎署吏秩甚卑，崇独不能决，而重烦吾耶？”这无疑是给宰相放权的一个信号。得知此事者，都认为玄宗“有人君之大度，得任人之道焉”。宋代的范祖禹对此给予了高度评价，说：“人君劳于求贤，逸于任人”；“苟得其人，则任而勿疑，乃可以责成功。明皇既相姚崇，而委任之如此，其能致开元之治，不亦宜哉！”
到开元中期，以张说担任宰相为标志，唐朝的宰相制度变得更为正规。唐朝宰相都在政事堂议事。开元十一年（公元723年），张说改政事堂的名称为中书门下，宰相的官署更为扩大，后列五房，包括吏房、枢机房、兵房、户房、刑礼房，分曹以主政务。在政事堂处理政务的宰相，成为专职宰相，不再与其原职务职责混淆在一起。“开元以后，宰臣数少，始祟其任，不归本司。”随着宰相制度的正规化，在开元年间，逐步形成了辅佐宰相的咨议机构。特别是隶属于中书省的集贤院，在这一方面的作用尤为显著。张说担任宰相时期，集贤院承担起了对宰相的政务咨询作用。开元六年（718年），为整理内库图书资料，成立了丽正殿修书院。开元十三年（725年），又对丽正殿修书院进行了改组，并改名为集贤院。“集贤学士之职，掌刊缉古今之经籍，以辨明邦国之大典。凡天下图书之遗逸，贤才之隐滞，则承旨而征求焉。其有筹策之可施于时，著述之可行于代者，较其才艺而考其学术，而申表之。”。名义上，集贤院附设于中书省；实际上，它是宰相甚至皇帝草拟诏令诰命和顾问咨询的机构。
在政治体制上，玄宗时期还有一个重大变革，就是设立翰林学士院，使皇帝的决策咨询机构逐渐健全。自唐初以来，皇帝都要选择一批文人学士辅佐政务。“学士之职，本以文学语言被顾问，出入侍从，因得参谋议，纳谏诤，其礼尤崇。”这些学士，除了部分在弘文馆、集贤院供职外，有的没有固定侍从地点，随时待诏听命，如高宗时的“北门学士”，就是这种顾问人员。相比之下，弘文馆和集贤院的学士，附设于中书省和门下省，为宰相咨询的时候多一些，而没有固定地点的待诏学士，则直接为皇帝服务的时候居多。到玄宗时，为了使这批人能够更好地发挥作用，专门设置了翰林院，安置学士，以各顾问。从此，皇帝身边有了一批专职顾问的御用文人。“玄宗即位，张说、陆坚、张九龄、徐安贞、张珀等，召入禁中，谓之翰林待诏。王者尊极，一日万机，四方进奏、中外表疏批答，或诏从中出。宸翰所挥，亦资其检讨，谓之视草，故尝简当代士人，以备顾问。”起初，这些顾问文人称为翰林供奉，并与集贤院学士分掌制诏。在开元时期，中书舍人张九龄、中书侍郎徐安贞，都曾担任过翰林供奉。
至开元二十六年（738年），原来由集贤院掌管的起草制诰任务，也逐渐转移到了翰林院。是年“始以翰林供奉改称学士，由是遂建学士院，俾专内命，太常少卿张增、起居舍人刘光谦等首居之，而集贤所掌于是息罢”。在玄宗时期，翰林学士以草拟表章批答、检视王言为任，主要充当皇帝的咨询人员，为以后翰林学士参与中央决策奠定了基础。安史之乱后，翰林学士逐渐成为与正式宰相相对的“内相”。
为了保证中央政府的统一和高效，开元之初，玄宗坚持了从武周以来形成的惯例，尚书仆射如果没有同中书门下三品或同中书门下平章事的头衔，就不再是宰相。更进一步，玄宗在开元初期的十余年中，直到封禅泰山之前，干脆不任命尚书左右仆射（当时叫左右丞相），使尚书省处于无长官状态，把尚书省变成了一个脱离决策领域的政务推行机构。在开元初期，除尚书省变成单一的执行机构外，门下省的侍中和中书省的中书令一般不同时在职，如果一个宰相担任中书令，另一个宰相在多数情况下是门下侍郎；或者由一个宰相担任侍中，另一个则担任中书侍郎；甚至在个别时期，两个宰相都只是中书省与门下省的侍郎（副职）。这种宰相配置的方法，保证了宰相中只有一人占据主导地位。在这种体制下，三省事实上只有一个最高长官，使得三省的行为更为协调，中书省和门下省的分工趋于模糊，权力逐渐集中于一个宰相之手。这一体制，对于加强当时国家管理中的协调性和整体性，维护政权的高度统一，起到了积极的作用，但也为后来的宰相专权种下了祸根。
唐玄宗在开元时期的政治建树，除了完善政治制度和体制外，在各种政治活动中，还采取了一系列举措。玄宗当上皇帝后，朝野上下普遍形成了一种对贞观之治的怀念情结。在玄宗的各种诏令中，在大臣的各种奏疏中，以贞观时期为楷模的语句不断出现。最为典型的佐证，就是史官吴兢在这一时期撰写了《贞观政要》一书。而这一著作的用意，显然不仅仅是为了单纯地歌颂太宗的功绩，而是要把它作为玄宗中兴的范本。面对这种局势，玄宗的各种政治举措，自然与贞观时期有某种相仿之处。