俗名海子边的文瀛湖，其历史最早可以追溯到北宋时期。北宋太平兴国四年（979），宋太宗赵光义亲自“御驾亲征”，攻打北汉的晋阳。迫于压力，北汉主刘继元出城投降，并说服他的部将杨业停止战斗，归顺宋朝。赵光义为防止日后晋阳人民的反抗，下令焚毁晋阳城。次年，又决汾河、晋水倒灌了晋阳城的废墟，企图达到毁城灭迹的目的，使历史名城太原化为一片废墟。同年，又把系舟山的山巅铲平，为的是拔去“龙角”。金代诗人元好问《过晋阳故城书事》中有“不论民居与官府，争教一炬成焦土，至今父老哭向天，死恨河南往来苦”、“官街十字改丁字，钉破并州渠亦亡”、“君不见系舟山头龙角秃，白塔一捶城覆没”等诗句，道出了太原百姓对古晋阳城毁灭的悲愤。太平兴国七年（982），宋太宗赵光义又命三交都部署潘美在汾河东岸的唐明村起建一座新城，即太原城，而海子边是当时护城壕的一部分。
明朝洪武九年（1376），明太祖朱元璋三子朱棡受封晋王后，其岳丈永平侯谢成奉敕扩建太原城，修筑晋王宫。太原城池扩建后，海子边被揽入城中，成为东南半城雨水汇集之处。渐渐形成北面圆而大的圆海子和南面长而小的长海子，合称为海子堰，是一片空旷低凹的湿地。明末李自成的部将陈永福当年奉命防守太原，在清兵即将大举进攻太原城的严峻形势下，他封锁城门，在这里捕杀了明朝晋王的宗亲。
清康熙年间（1662—1722），海子堰水溢成灾，祸及附近民宅，太原知府王觉民捐出俸银主持治理，雇夫挑通两海子，又从南城墙下找到古水口，导水出城流入汾河，消除了水患。海子的南面是明清二代山西科举考试的贡院，来省应试的学子们喜欢到此地游览。当时有一姓裴的通判（府以下主管粮运和农田水利的官员），见这片海子紧临贡院，就给它取了个很文雅的名字——文瀛湖。后几经治理，文瀛湖以水清境幽成为文人学士集会的游览地，并以“巽水烟波”美景列为“阳曲八景”之一。巽，在《周易》里是八卦之东南方，故文瀛湖被称为“巽水”。清末光绪年间（1875—1908），冀宁道连甲再一次对海子边进行了大规模的治理，清理了淤泥，安设了湖栏杆，置放了小木船，又在北湖东南建一凉亭并匾书“影翠亭”。张之洞任山西巡抚期间，在文瀛湖岸遍植柳树，修筑了亭榭和围栏。于光绪三十一年（1905）在湖北岸兴建了一座二层楼房，取名“劝工陈列所”，陈列本省土特产品，这时的文瀛湖已初具公园的雏形。曾经参加过康有为“公车上书”的名士赵炳麟在《闲游太原文瀛湖感赋》中就有：“闲向文瀛湖上望，烟岚几点碧于螺”的名句，来赞美文瀛湖的景致。辛亥革命后又略加修整，正式称为“文瀛公园”。这是太原历史上最早，也是太原解放前城中唯一的公园。园中“劝工陈列所”前宽阔的广场当时叫“太原工会”，是太原公众特别是进步人士评论时政、集会、结社的重要场所。
1928年，北伐战争胜利后，公园更名为“中山公园”，并先后修建了许多景致和活动场地，湖东岸有讲演厅、图书馆、篮球场，在湖北岸建起六角亭，湖边塑起铜人喷泉，铜人手中的莲花芯中喷出的水柱高达丈余，吸引游人驻足围观。湖的东、南、西三面沿岸排满了茶社、餐馆、冰激凌馆、落子馆、说书场、小食摊、旧书摊等，院内有卖艺的、耍把戏的、拉洋片的、打卦算命的、看相拆字的……五花八门，应有尽有。一时间，文瀛湖成为文人、商贩、艺人等各界人士的聚集地，就像北京的“天桥”。一直以来，文瀛湖都是太原最繁华热闹的地方。直至上世纪50年代，太原地区一直流传着这样一段顺口溜：“抽的顺风烟，看的丁果仙（晋剧名伶），逛的海子边，赛过活神仙。”这也是当时太原市社会现状的真实写照。
1937年，太原沦陷后，日伪将“中山公园”改名为“新民公园”，园内破败不堪，曾一度沦为日本人的烧尸地。到1945年抗战胜利，公园又更名为“民众公园”。至1948年，园内到处是垃圾，已不堪入目了。随着1949年太原解放，古老衰败的公园又获得了新生。1950年开始彻底治理，初步恢复面貌，更名为“人民公园”，并进行了大规模的基础建设。“文化大革命”十年浩劫，使公园遭受到严重破坏。粉碎“四人帮”后，政府重新进行改建，恢复面貌，公园成为市民休息、娱乐的园地。1982年，为发展省城少年儿童事业，政府决定将“人民公园”更名为“儿童公园”，同时投入大量资金重新规划设计，使之成为省城人民享受教育、休闲、娱乐的综合性活动场所。2004年5月1日，公园拆墙透绿，对全社会实行免费开放。政府又投入资金，对公园重新规划，进行了彻底的综合改造，使公园面貌发生了翻天覆地的变化，不仅再现了昔日“巽水烟波”的美景，同时又新建和修复了下沉广场、花池坐台、瀑布溪流、明清人物、亲水平台及墨砚雕、屏风雕、镇海牛雕塑等十余处景点，再加上园中原有的孙中山纪念馆、状元桥、明清贡院、《崇德庐帖》半壁长廊、万字楼和琉璃塔等珍贵的文物古迹，现已将公园建成展示三晋文化的窗口、进行爱国主义教育的基地和市民休闲娱乐的场所，而且正向着历史文化名园迈进。2010年1月1日，公园又恢复了历史名称“文瀛公园”。