官职称曹始于西汉。西汉成帝时，设尚书五人，一人为其长，称仆射，剩下的四人分四曹办事。常侍曹主丞相御史事；二千石曹主刺史二千石事；民曹主庶人上书事；主客曹主外国事，三公曹主断狱事。《后汉书·应劭传》记载：“辄撰具《律本章句》……《五曹詔书》及《春秋断狱》凡二百五十篇。”李贤注：“成帝初置尚书员五人，《汉旧仪》有常侍曹、二千石曹、户曹、主客曹、三公曹也。”
到东汉时，尚书增为六曹，据《续汉书·百官志三》记载，有三公曹、吏部曹、民曹、南北两主客曹、二千石曹、中都官曹。其中三公曹尚书分两人，称之为六曹。
魏晋以后，尚书六曹屡有变革。《晋书·职官志》记载，西晋时，有吏部、殿中、五兵、田曹、度支、左民六曹，属尚书省。南北朝时，分曹治事越来越多，最多时达三十五曹，而尚书只有五六人，于是以一个尚书管辖好几个尚书郎，尚书郎又各主一曹。这就是“五曹尚书”、“六曹尚书”之由来。
这些曹后来又演变为部，六曹尚书即成为六部尚书。尚书郎所主之曹，即以后部内之司。地方州郡也有曹，如户曹等，差不多相当于现代机关单位中的科。隋文帝开皇三年（583），诏佐官将“曹”改为司，如司户、司法等。此后地方政府便不再用“曹”了。