有关萨尔贡国王的传说中第一次提到巴比伦，他在大约公元前3世纪中叶时统治了阿卡德。传说他统治巴比伦的时候镇压了一场起义。
古代的当地居民将巴比伦称为“巴比利（Babili）”，意思是“上帝之门”；希腊人将它音译为“巴比伦”，而伊拉克人则至今都读作并写作“巴比伦（Babilon）”。
巴比伦的鼎盛时期是公元前6世纪尼布甲尼撒二世统治的时候。那时阿卡德和苏美尔王国的领地都在他的统治之下，而巴比伦就发展为巨大的商业和文化中心。幼发拉底河流经此地，船只从北面沿河将铜、肉、建筑材料运入巴比伦城，而沿河往北运走的则是小麦、燕麦和水果。
在尼布甲尼撒二世统治时期，从中亚流入巴比伦的珍宝都用来修建首都及其周围的强大防御工事。在耶稣诞生前的350年里，希腊历史学家希罗多德曾到过巴比伦，但此时的巴比伦只不过是它往昔辉煌的纪念碑。旅行中希罗多德结识了当地居民，他与他们交谈，并记下了他们向他讲述的习俗、传说和神话。他详细地描写了他见到的巴比伦是什么样子，里面都有些什么样的运河、寺庙和宫殿。
希罗多德之后过了大约100～150年，巴比伦城的一位祭司别罗兹写了一部关于该城的长篇巨著。书中讲述了巴比伦和亚述王国的历史，还有国王们和众神的各种传说和神话。遗憾的是，别罗兹的珍贵著作几乎完全散佚，流传至今的只剩下几个片断，基督教作家、恺撒利亚的优西比乌在自己的作品中曾经引用过这些片断。
同样悲哀的是，在罗马帝国衰亡时随着巴比伦一起被摧毁的还有所有能告诉我们该城命运的文字记录文献。在440年的时间里该城两次从历史上消失，但是著名的巴比伦城的遗址却并没有消失得毫无踪影。
早在1850年，巴比伦遗址就已经引起考古学家的注意，雷亚尔德、拉萨姆、史密斯和其他学者都对这一遗址进行了研究，从1899年起，这里开始了系统的考古发掘工作，巴比伦城也因而经历了它的第三次重生。
巴比伦居民自认为他们的城市是宇宙的中心，这一点从保存到今天的那幅灾难性图画中可以看出来。古代的旅行者和商人沿幼发拉底河从北面驶近巴比伦时，首先会被它外围绕城而建的巨大城墙所震惊。城墙的厚度丝毫不逊色于杜尔—沙鲁金的城墙，并且城墙上还为驻守的士兵修建了营房。
尼布甲尼撒二世在巴比伦进行了大规模的营建工作。他将首都变成了一座坚不可摧的要塞，并命人在石头上刻下铭文：“我从东边开始用坚固的城墙将巴比伦围起来，挖了壕沟，并用沥青和烧过的砖加固壕沟的两侧。沟的地基旁边修了高大坚固的墙。我用雪松木做成大门并包上铜皮。为使来意不善的敌人无法从侧面靠近巴比伦城，我用如海浪般威猛的水流将城围住。”
城的周长约60英里，绕城一周建了250座护城塔。幼发拉底河将城一分为二，两岸都高耸着宏伟的王宫。其中一座王宫是城堡，另一座是国王的住处。
尼布甲尼撒二世的豪华宫殿坐落在建有“伊什塔尔门”的城墙角上，位于“游行路”和幼发拉底河之间。这座宫殿建在一块面积约4.5公顷的梯形地段上，宫殿被墙和走廊分成两半。据学者们推测，西侧的宫殿建得要早些。
这是罗伯特·科尔杰维在卡斯尔丘岗下挖出的南宫遗址。这座宫殿是城中真正的堡垒，因为它被长900米的坚固围墙围住。南宫由五个建筑群组成，每个建筑群都建有开放的院落，院子四周是华丽的大厅和其他房间。院落之间相互以坚固的大门连接，因此，每个各具特色的建筑群便都成了“城中之城”。
尼布甲尼撒二世宫殿的大门是朝东开的。几个大院的房间列厅紧接着东大门修建开去，这些房间列厅是整个宫殿建筑群建筑的基础。第一座院子周围分布的屋子很可能是卫兵们的住处；第二座院子的周围则是官员和国王亲信的住处；第三座院子则连接王宫的各个正房。
第三座院子南面横向前延伸，修建了面积最大（52×17米）的朝北的接待大厅。根据大厅的面积，特别是根据有植物装饰图案的暗蓝色釉面砖的奢华装饰，根据正对中心大门处放着国王宝座的巨大壁龛，学者们将之称为“国王觐见大厅”（金銮殿）。
尼布甲尼撒二世的寝宫是所有宫殿建筑群中最古老的建筑，环绕第四座院子而建，第五座院子是王后的寝宫和国王嫔妃们的住处。宏伟的王宫有172个房间，总面积约52000平方米。
尼布甲尼撒二世的前殿修建得异常富丽堂皇，不过总共只有三间大殿，大殿之间用墙隔开。这座宫殿完全被堡垒的高墙所遮蔽，尼布甲尼撒二世及其家人住在其中很可能感到像住在牢里，因此，国王又给自己建了一座新的宫殿，新宫殿更舒适，完全笼罩在绿茵之中。宫殿前面的沿河大街及所有的院落到处都是种在粘土花盆和人工花坛里的绿树和灌木。
殿前的沿岸大街也用烧过的砖铺砌而成，一条石阶直接从大殿通向幼发拉底河。台阶的末端修建了码头，码头旁边时刻有国王的豪华游轮在河浪中摇荡，恭候国王和王后的驾临。在幼发拉底河上来回穿梭的许许多多的货船和客船，需得远远地绕过国王码头，以继续自己的航程。
考古发掘的时候，在宫殿东北部多层塔的塔基上发现了著名的“空中花园”。
波斯人统治巴比伦时期，尼布甲尼撒二世宫曾一度荒芜：波斯国王只有在对自己的广袤领土进行视察时，才偶尔到这里来一次。但没过多长时间，尼布甲尼撒二世宫殿又恢复了往日的荣耀。公元前4世纪它成了“世界征服者”亚历山大大帝的宫殿。这位伟大的统帅在其16年的征战生涯中从来没有打过一场败仗，最后逝于宫中的金銮殿。
现代学者们修复了尼布甲尼撒二世宫殿。众多的房间列厅、绵延不尽的台阶……似乎这座迷宫就没有出口，在眼前晃动的只有用现代的浅黄色砖石砌成的宫墙。
真正由尼布甲尼撒二世宫殿遗留下来的只有一只从未守护过他的玄武岩石狮子。吞噬一切的时间独独对这座古代雕塑手下留情，雕塑只有一部分受到毁坏。石座上耸起的狮子雕像魅力依旧，吸引着游客们的注意力，要知道它已经有2500岁了，但它仿佛直到现在还担任着并不轻松的工作。