据史料记载，最早的肥皂配方起源于西亚的美索不达米亚。大约在公元前3000年的时候，人们便将1份油和5份碱性植物灰混合制成清洁剂，在欧洲关于肥皂起源的传说很多，有的说古罗马的高卢人，每遇节日便将羊油和山毛榉树灰溶液搅成稠状，涂在头发上，梳成各种发型。一次，节日突遇大雨，发型淋坏了，人们却意外发现头发变干净了。又传说，罗马人在祭神时，烧烤的牛羊油滴落在草木灰里，形成了“油脂球”。妇女们洗衣时发现，沾了“油脂球”的衣服更易洗干净。这都说明了人们用动物脂肪与草木灰（碱）皂已有千年历史。
考古学家在意大利的庞贝古城遗址中发现了制肥皂的作坊。说明罗马人早在公元2世纪已经开始了原始的肥皂生产。中国人也很早就知道利用草木灰和天然碱洗涤衣服，人们还把猪胰腺、猪油与天然戌混合，制成块，称“胰子”。另外还发现皂角、无患子等也具有去污能力。
肥皂之所以能去污，是因为它有特殊的分子结构，分子的一端有亲水性，另一端则有亲油脂性，在水与油污的界面上，肥皂使油脂乳化，让油脂溶于肥皂水中；在水与空气的界面上，肥皂围住空气的分子形成肥皂泡沫。原先不溶于水的污垢，因肥皂的作用，无法再依附在衣物表面，而溶于肥皂泡沫中，最后被整个清洗掉。
制皂的基本化学反应是油脂和碱相互作用生成肥皂和甘油，反应所得的皂经盐析、洗涤、整理后，称为皂基，再继续加工加入香料、增白剂或颜料，进而切成合适大小或用模子成型，即制成肥皂成品。