中国的县制最早可追溯到春秋时期，形成于战国时期，至秦始皇时作为定制全面推行。
春秋初期，秦、晋、楚等国已开始在边地设县，后逐渐在内地推行，其长官可以世袭，这有别于后来的县制。春秋中期以后，设县的国家增多，县开始成为地方行政组织。春秋末期，有的国家又在边远地区设置了郡。这时的郡，虽然面积比县大，但是由于偏僻荒凉、地广人稀，行政建制却比县低。战国时，郡所辖的地区逐渐繁荣，人口增多，于是在郡的下面分设了县，逐渐形成了郡统辖县的两级地方行政组织。至此，郡县制开始形成。
秦统一六国后，把全国分为36郡，郡下辖若干县。县分大小，万户以上的县长官称县令，不满万户的县长官称县长。郡县制由于直属中央，不受诸侯王控制，因而避免了春秋以来诸侯纷争的局面，有效抑制了地方割据，为以后历代沿用。