衙门原作“牙门”，最早是军旅中的称谓，后来逐渐移为朝廷官署所使用。那么，为什么古代官府称为“衙门”呢？
衙门是古代官署的一种俗称，就是官吏办公、办事的地方。如《广韵》上载：“衙，衙府也。”衙府就是官署。苏轼《异鹊》：“仁心格异族，两鹊栖其衙。”清朝小说《红楼梦》第四十八回上载：“着他写一张状子，只管往有司衙门中告去。”清朝戏曲家李渔所作十种曲之一的《玉搔头·奸图》曰：“指望讨几封荐书，往各衙门走走。”这里出现的“衙门”，都是指古代官吏办理公务的地方。
衙门原作牙门，这是为什么呢？
古代军队驻扎戍守，主帅或主将的军营前会树立一牙旗作为军门，所以营门也称为“牙门”。在《周礼》上称为“旌门”，如《周礼·天官·掌舍》：“为帷宫，设旌门。”《国语》上则称为“军门”，《国语·齐语》：“执枹鼓立于军门。”三国吴云阳人韦昭注：“军门，立旍（jīnɡ，同‘旌’）为军门，若今牙门矣。”《辞海》注释：牙门为“古代军营前置牙旗，所以营门也叫牙门。”《三国志·魏志·典韦传》：“牙门旗长大，人莫能胜，韦一手建之。”
再有《后汉书·袁绍传》：“曲义追至界桥，瓒敛兵还战，义复破之，遂到瓒营，拔其牙门。”李贤注引：“《真人水镜经》曰：‘凡军始出，立牙竿必令完坚；若有折，将军不利。’牙门旗杆，军之精也。”牙旗也称牙，刘长卿《献怀宁军节度使李相公》诗：“见牙吹角不闻喧，三十登坛众所尊。”
“牙旗”，就是天子或将军立在军营前的大旗，因为旗杆上通常用象牙做装饰，所以称为牙旗。如《文选·张衡·东京赋》：“戈矛若林，牙旗缤纷。”薛综注：“兵书曰，牙旗者，将军之旌。谓古者天子出，建大牙旗，竿上以象牙饰之，故云牙旗。”
由此可见，“牙门”最早是军旅中的称谓，后来逐渐移为朝廷官署所使用。
宋朝司马光等人纂修的《类篇》上载：“古者军行有衙，尊者所在，后人因以所治为衙。”。《新唐书·泉献诚传》：“命宰相南北牙群臣举善射五辈。”《资治通鉴·唐中宗神龙元年》：“北门南牙，同心协力。”胡三省注：“南牙，谓宰相；北门谓羽林诸将。”这里的“南牙”是宰相办公的地方，后作衙门。
宋朝钱易《南部新书·庚》上记载：“近俗尚武，是以通呼公府、公门为牙门，字称讹变转为衙。”封演《封氏闻见录》卷五也有相同的记载，因此看来，衙门原作“牙门”，讹误变易后才称为“衙门”。《辞海》注释：“牙门”就是“官吏办公的地方，即衙门。”可见“衙”为“牙”的“讹变”。
此外，古代的衙门为了显示出气派、威严，大门多开六扇门。所以，后来也以六扇门代指官府、衙门。关于衙门的谚语有：“衙门六扇开，有理无钱莫进来”、“衙门八字朝南开，有理无钱莫进来”、“衙门深似海”等。
现在的政府机关是为人民服务的机关，千万不要深宅壁垒，更不要有“衙门”作风，应该深入群众，接触百姓，时刻把老百姓的事情放在心上。