中共广州市委书记、市长由叶剑英兼任。朱光任市委副书记、副市长，协助叶剑英处理广州市日常工作。梁湘被任命为广州市公用局局长。公用局的主要任务是管电、管水、管交通道路等全市公用基础设施。梁湘一上任就带领三十八名干部，分头去接管发电厂、自来水厂，以及公共汽车公司、轮渡公司等公用事业机构。
第一面红旗在广州市区上空高高飘扬后，叶剑英就给党中央、毛泽东发去电报：“10月14日广州市解放了，市内灯火辉煌。”
不过，当时接管的广州市，只是一个烂摊子。由于国民党政府的腐败，广州市当时的公用基础设施十分落后，全市发电机组容量只有2.7万千瓦，而且有的机组还是坏的；输电线路损坏更是严重，光是线路中损失的电量就高达55%，停电事故时常发生。有一晚，叶剑英市长在广东迎宾馆宴请苏联专家代表团，席间突然停电，只好燃点蜡烛草草把晚饭吃罢，使人大为扫兴。自来水厂的供水管道更是破烂不堪，大量漏水，流失的水量竟高达63%，而且水质混浊，经常达不到卫生标准。河南区有10多万人口根本没有自来水饮用。“电灯不明，马路不平，自来水不清”，就是当年广州市公用设施的真实写照。公共交通也相应落后，全市只有200辆公共汽车，都是私营的。因为汽油紧张，市内交通濒于停顿。加之当时以美国为首的国际社会对新生的共和国实行经济封锁，要保证广州市内的水电正常供应和交通运输畅通，谈何容易！
某日，叶剑英把梁湘请到办公室来。听了梁湘简明扼要的工作汇报之后，他说：“接管城市是为了管好城市。今天我们把它接过来，明天我们共产党人就要把它管理好。要动员一切力量，战胜各种困难，保证广州市的水电供应和交通运输畅通无阻。”梁湘很快就制定出“面向生产，面向市民，保证安全”的12字公用事业方针，动员广大职工，抢修发电机组和输电线路。梁湘带领着市公用局的干部、工人，夜以继日，仅仅用了一年多时间，新装的电灯比解放前增加一倍，并在主要的马路上安装上了水银灯。对于输水管道也重点抢修，还新装了通往河南区的29000米供水管道，使河南区4万多户居民饮上了自来水。同时，他发动技术人员和工人们想方设法改善水质，使自来水的混浊度从解放前的20-30%下降到6%以下。被国民党军队在逃离广州时炸毁的横跨珠江两岸的海珠大桥，仅仅用了两个来月时间就修复通车了。
叶剑英在庆祝广州解放一周年大会上高兴地说：“一年来的市政建设，就把广州市的面貌和生活换上了新的样子。”
城市生活走上正轨之后，梁湘被任命为市工商局局长。那时市工商局的任务，要担负起全市工业、交通、商业的发展和管理，国民党留下来的广州市满目疮痍，没什么像点样的工业，只有年产10万来吨的西村水泥厂；只能生产喷雾器、熟地犁等简单农具的广东钢铁机械厂，以及生产脸盆、口盅、菜碟子的益丰搪瓷厂等。梁湘担任这个工商局长，任务不轻松。到了1954年夏天，在广州市第一届人民代表大会上，梁湘被选为广州市计划委员会主任。当年冬天，又与焦林义（原中共广东省粤东区党委书记）一起，被任命为广州市副市长。焦林义分管工业和基建，梁湘分管计划和财经，共同协助分管经济建设的中共广州市委书记处书记曾志（陶铸夫人）工作，发展广州市的国民经济事业。
梁湘整天跟数字、规划打交道。广州市从50年代初到70年代末所有重大工业建设项目，基本上都经过梁湘的手。比如，广州钢铁厂、广州化工厂、广东拖拉机厂、广州氮肥厂、广州塑胶厂、广东罐头厂、广州第二棉纺厂、广州制药厂、广州石油化工厂等大批地方国营骨干工厂的组织兴建，以及广州重型机器厂、广州造纸厂、广州水泥厂、广州造船厂等等中央直属大型企业的组织扩建。也就是说，在奠定广州工业化的根基、把广州从一个消费城市转为生产城市的过程中，梁湘尽心尽力。
1958年春天，梁湘被任命为中共广州市委书记处书记。不久，全国吹响大跃进的号角，梁湘到广东拖拉机厂蹲点，兼任该厂党委书记、厂长，领导全厂职工成功试制35匹马力水陆两用拖拉机，揭开了广州市可以制造拖拉机的历史新一页。
有一次，他带着几个人到宝安县沙头角镇内考察，看见有位香港女同胞身上穿着一件在内地还未见过的塑胶印花雨衣，色彩鲜艳，漂亮迷人。他回到广州，就把市轻工局局长请到办公室来，提出广州市要开发这种新产品，一起商量措施办法。他批准市轻工局从香港重金聘请两名技术人员来广州工作。不久，广州市的百货商店里，出现了由市轻工局试制成功的色彩迷人的聚氯乙烯男女雨衣了。
据当时担任市计划委员会基建处处长的方扬回忆：“梁湘贯彻市委、市政府的意图是不折不扣的，凡是曾志、焦林义决定了的重大项目，他都会带着我们到工地察看，先叫我们对工作发表看法，然后综合大家合理的意见去办。本来春节有四天假期，但往往到了年初三，梁湘就召集大家来开会，逐个检查重大项目的进度，然后率领我们到下面去跑，掌握确切的资料。他工作很认真，很少休息，我们这些人也不敢偷闲。有一年春节假期未过，他就要我把全市基建项目进度列出表格。他认为我列的表格还欠详尽，一再要我修改，我前后认真修改了十次，交卷时说，‘梁书记，这是第十一稿了。’他答道：‘你说这些干什么，办事就要认真，这是百年大计啊！’我在他身上学到许多东西。”
梁湘与曾志、焦林义一起共事达一二十年之久，彼此尊重，协调默契。广州市广大中层干部从50年代中期开始，形成一亲昵的称谓——“曾、焦、梁”。曾志于1965年调离广州市工作后，人们也爱称“焦、梁”，此话包涵着对他们的信服，也反映出梁湘与曾志、焦林义是风雨同舟的挚友。
梁湘在致力于发展经济的同时，以“为官一任，造福一方”自勉，注意改善老百姓的生活。
50年代，在广州长堤、海珠桥侧的珠江河面上，常常看到一艘艘负重的小艇，艇上船民们吃力地摇着双桨，两三个小孩匍匐在艇头。这些在旧社会被贱称为“蛋家”或“蛋民”的水上居民，在沿海港湾和内河从事水上运输或渔业，“以水为业，以艇为家，随波漂泊，度日天涯”是他们生活的写照。他们千百年来过着“水流柴”的流浪生活，终年栖身于漂泊不定的小艇上，饱受风吹雨打的煎熬，喝着肮脏的河水，孩子长大了也无法上学，个中苦楚，可想而知。梁湘执行市委、市政府的决定，在珠江河南岸滩涂的滨江路以及黄沙、如意坊等地兴建了一批房屋，组织数以万计的水上居民搬到岸上来居住。他们世世代代浮家泛宅，“抬头望星空、低首见浪涛”的历史，从此宣告结束了。
广州市这一善举，受到了周恩来总理的赞誉，国务院拨来专款予以支持。