唐代后期由宦官充任的要职，五代至宋改用朝臣，成为与宰相分权的执政大臣。唐代宗永泰间（765～766），始用宦官“掌枢密”。宪宗时，置左右枢密使。枢密使的职务本来只是接受表奏，上呈皇帝，又将皇帝意图传达给中书门下（宰相），起上传下达的作用。因此，并无正式机构、属官，只有三问房屋以储存文书。但枢密使既接近皇帝，预闻机密，皇帝意旨又由他传达，就易于弄权用事。唐代后期，两神策军中尉与两枢密使并称“四贵”，他们拥立皇帝、任免宰相、处理军国要务，有时成为实际上的最高决策者。大致自懿宗咸通年问（860～874）起，皇帝在延英殿和宰相议事，枢密使例得参预。议定之后，又往往假托皇帝的意旨，多有改变。这种“惯例”，直到昭宗天复元年（901）始下诏革除。三年，朱全忠尽诛宦官，始以心腹蒋玄晖为枢密使，此为用朝臣任此职之始。后梁代唐，改枢密院为崇政院，以朝臣为祟政院使，职务仍唐枢密使之旧。后唐又恢复枢密院，仍以朝臣充使，后又置副使。后唐时枢密使权重，势压宰相。后晋初，一度以宰相兼枢密使。天福四年（939）废，枢密院印也移交给中书门下，不久复置。
五代时战争频繁，军事机密处于最重要的地位，枢密使也常任用武官，逐渐形成枢密专掌军事的倾向。到了宋代，中书与枢密院对掌文武二柄，合称“二府”或“两地”。