秦汉时主管皇帝车辆、马匹之官，后逐渐转为专管官府畜牧事务。皇帝出行，太仆总管车驾，亲自为皇帝御车。太仆因和皇帝关系密切而成为亲近之臣。汉初到文帝时，任该职者有高祖的亲信夏侯婴。太仆由于在诸卿中属于显要职务，常常可以升擢为三公。西汉时刘舍、陈万年皆由太仆升为御史大夫，公孙贺由太仆升为丞相。东汉时太仆多选素负声望或有功的大臣充任，甚至有时由司空、尚书令转任为太仆，可见其名位之重。
太仆秩为中二千石，有两丞。属官有大厩、未央、家马三令；车府、路车拿、骑马、骏马四令、丞；龙马、闲驹、橐泉、驹赊、承华五监长、丞。车府主管皇帝乘坐的车辆，其余皆为主管马厩之宫。
太仆更重要的职掌是兼管官府的畜牧业。西汉时，陇西、天水、安定、北地、上郡、西河六郡设牧师官，养马三十万匹，还有供祭祀用的大量牛羊。
东汉时太仆之下保留车府、未央以主管皇帝车马，其余诸厩和西北六郡的牧师官皆省去。西汉时少府所属的考工，东汉时移归太仆，其职务是制作弓弩刀甲等兵器，还主织绶及诸杂工。
魏晋以后，太仆之官除金代不设外，长期沿袭。但职掌渐转为专管官府畜牧事务，原来皇帝车辆、马匹之事，则移于他官，如清代归内务府上驷院、銮仪卫掌管。