有升必有衰
在1927年前，黄金荣与杜月笙的关系甚为密切。杜月笙在黄门十数年摸爬滚打，为黄金荣打天下，毫无二心。黄金荣也投桃报李，1924年将华格臬路（今宁海西路）上的一块地基送与杜月笙和张啸林，建起了杜公馆和张公馆（今宁海西路幼儿园等）。但1927年后，黄、杜矛盾日深，并逐渐公开化。
杜月笙实力的迅速上升和黄金荣的老衰，也许可以看作是导致双方矛盾的起因。
在黄、张、杜三大亨中，黄金荣的作风向来保守，且较为贪吝，进入国民党统治时代后，尽管有门生蒋介石这一最佳背景，但随着年迈体衰，对整体局面的控制已经心有余而力不足了。从巡捕房退休后，逐渐退居幕后。黄金荣爱钱，但他赚钱的方式也是老式的。他的产业主要是早年经营的舞台戏院和一些房地产。他始终认为坐收房租，远较投资于工商业要牢靠稳妥，因此他不愿意搞什么股份合资开店设厂，因此，终其一生，没有和人合营过一项现代工业企业。
而杜月笙正值盛年，野心勃勃，有着强烈的权势欲，而且工于心计，善于审时度势，还舍得挥金如土，笼络人心，有一套颇为高明的处世手腕。他看准了以租界为靠山的流氓势力与国民党结盟中所占据的有利地位，即国民党急于利用他们，却又无法制约他们，只能用名利实惠来笼络讨好他们，而国民党当局的青睐，又是抬高自己的社会地位和扩展势力的最有力杠杆。
因此杜认定，充分利用自己对国民党统治者的特殊政治价值，积极参与政治活动，尽量向国民党靠拢，借助于它的政权力量，乃是乘机跻身上流社会并飞腾达的最佳途径。为此，他使尽浑身解数，向政界、财界进军，取得了意想不到的效果和成功。
就是在黑社会势力与南京政府结合、社会地位青云直上的过程中，杜月笙脱颖而出，超越黄金荣，成为上海流氓帮会世界中最煊赫的角色，并使其个人的权力“合法化”。
关于三大亨之间角色的升变，老报人徐铸成曾有一段回忆文字：1922年时在无锡读中学时，只听说上海有一个黄金荣，十分了得。后来有上海三大闻人的说法，排序当然是黄、张、杜；20年代后期，则改为黄、杜、张；30年代又变成了杜、黄、张了。
杜月笙地位上升后，在与黄金荣的关系方面，最初也是最显著的变化便是对黄杜月笙、张啸林等上海名人金荣称呼的改变。
当初杜月笙踏入黄公馆时，还是个20来岁的小后生，与年长20岁且已执掌上海半壁天的炙手可热的黄金荣相比，自然晚了一辈，因此，杜月笙亲切地称黄金荣为爷叔，称林桂生为师娘，这一称呼叫了十多年。直到1920年，53岁的黄金荣看中了露兰春，不惜抛弃帮助自己打天下的林桂生。而且因为露兰春，被卢永祥之子绑架，后杜月笙单刀赴会救出黄，黄因感激，而与杜以兄弟相称。
自杜月笙帮助黄金荣躲过露兰春事件的难关始，没有几年，上海滩形成了黄、张、杜三大亨的新格局。到“四一二”事变以后，杜月笙更是超越黄金荣而逐渐成为上海流氓帮会世界中的第一号人物。
黄、杜矛盾的深化，在于黄金荣在杜月笙超越自己的时候，失去了平常之心。特别是20年代末、30年代初，黄金荣在上海政治舞台上的衰退与如日中天的杜月笙，形成鲜明的对照。这一矛盾在法租界的华人董事问题上也有充分的表现。
法租界的华人董事最初是虞洽卿和陆崧侯，屡因虞洽卿拒绝而改由吴宗濂担任。1926年法国总领事那齐雅正式承认华董，次年他聘陆伯鸿、朱炎、魏廷荣、陆崧侯和吴宗濂五人为华董。这时，羽毛丰满了的杜月笙于1927年1月将法租界商业总联合会改组为法租界纳税华人会。1928年1月，张啸林被选为华董，杜月笙等为顾问。
1929年1月，法租界纳税华人会新选委员在贝勒路（今黄陂南路）一号该会会所举行就职典礼，黄金荣与张啸林、魏廷荣等为执行委员。而杜月笙不仅是纳税华人会的执行委员，而且还担任了法租界商界总联合会的主席，而张啸林则是法租界纳税华人会执委会主席，地位均超过了黄金荣。
次年11月，法租界纳税华人会选举华人董事，杜月笙以三十票与张啸林、魏廷荣、朱炎、陆伯鸿等五人当选，而黄金荣仅得五票，排在未当选者之首，连金廷荪也担任了专门顾问。
对于这些帮会内部的势力盛衰的更替，黄金荣总有些不甘。当然如果细致地分析，造成黄、杜矛盾深化这种局面的主要因素，恐怕主要不是花甲之年的黄金荣，而是他的数千徒众。
由于黄门弟子在报社的不少，黄金荣便要求他们着手收集杜月笙的违法言行，并予以攻击。《新闻报》的杭石君就秉承老头子的旨意，在报上有计划地攻击杜月笙经营烟、赌的事实。杜月笙深知舆论的威力，和与黄金荣公开闹翻的严重后果，立即到黄公馆谢罪，将搜刮来的钱分赃给黄金荣，直到抗战爆发。以平息可能发生的冲突。
而且，在平时，黄金荣也总是找机会对付杜月笙。有时朋友聚会，黄金荣会半阴半阳，似真似假地冷嘲热讽，当众揭底，让杜月笙下不了台。
有一次，杜月笙正在侃与人斗法的故事，不料黄金荣当头棒喝说：“月笙，我劝侬不要这样太用心计，免得短寿促命！”
还有一次，有人正在捧场恭维杜月笙所兼的几十个董事长、总经理，谓之中国第一个实业家，捧得杜月笙飘飘然。杜月笙正得意时，黄金荣冷笑道：“月笙，侬还记得否，第一次当董事是啥辰光？”杜月笙一时语塞。黄金荣得意地讲：“是在民国十年，我在杀牛公司接茄勒路（今吉安路），由源涛出面创办不收学费的金荣公学，我当董事长，让侬当一名董事。”杜月笙当面还能笑笑，但心中毕竟难受，所以朝黄公馆走动就越来越少了。
30年代初，黄金荣的学生、英美烟草公司工会主席陈培德准备竞选上海总工会主席一职。杜月笙的门生、淞沪警备司令部军法处长陆京士为打击黄门，扩充杜门势力，指控陈有共产党嫌疑，陈被淞沪警备司令部逮捕。这事气得黄金荣火冒三丈，高叫：“哼，这倒好，吃饭忘记种田人了。”立即差人把杜月笙找到黄公馆来，并关在近代中国报业界与《申报》齐名的《新闻报》，1893年上海创刊照无论他在做什么事，都要马上来，否则以后就不要再上钧培里了。
杜月笙闻言立即赶到黄公馆，只见黄金荣正躺在烟榻上抽大烟，便像二十年前当黄的跟班那样，恭立一旁，等候发落。无论黄金荣如何发脾气，杜月笙温文平静，让黄金荣轧足面子，于是，化险为夷。陈培德随即由淞沪警备司令杨虎释放。经过杨虎的调停，陆京士和陈培德各当了一段时间的总工会主席。黄金荣的得意门生、管家黄振世在1928年参与上海鱼市场的筹建时，也被杜党排挤，在黄、杜两党的较量中，黄金荣一派处于下风，倒是不争的事实。但，黄、杜一直没有公开决裂的主要原因，不能不说是杜月笙的气度雅量了。
黄金荣与杜月笙的明争暗斗，还表现在其他许多具体的事情上。例如30年代轰动当时上海滩的杜月笙“杜氏宗祠”落成和黄金荣的“黄家花园”竣工。
花园与宗祠
1932年清明前几天，上海西南郊漕河泾一带农民便开始上坟了。
春天的上海郊区是美丽的，风柔水清，空气新鲜，太阳暖洋洋的。纵横交错的河道两旁，一行行垂柳吐出了嫩芽，连河边芦苇也钻出来放叶透青了。
昏睡的土地觉得它的心复活了，似是而非的初春悄悄地溜人空中，又窜进了已苏醒的地下。迷人的春天慷慨地散布着芳香的气息，带来了富有诱惑力的灿烂天气，这正是：
春色怡人淡复浓，
南山花放北山香，
杨柳吹做千条线，
唤醒黄鹂弄琼浆。
按照旧时上海的规矩，清明前后十天里，为上坟插柳的季节。这时，他们三三两两地提着朱漆竹簋，簋上放着几束香，簋把手上挂着一串白纸幡。然后折几根杨柳，挟带一摞“纸钱”，去向坟中的父母送去一年的“花费岜”。
每年，特别是当上包打听以后，黄金荣也总会在清明时节，亲自到这里来，焚一些纸钱，掮把锄头，为父母送钱，为父母“补屋修房”，祭奠一番父母的坟茔。
黄家的祖坟，淹没在荒草杂丛之间，那旷野是荒凉凄黯的，四周一望无际，全都是大大小小的馒头式的坟地。一阵春寒吹来，使四周的东西都呈现出凄惨的景象。几棵矮树摇枯枝，“哗哗”地想诉说什么。
黄金荣在父母合葬的坟上亲自摆下供品：一盘香椿芽炒鸭蛋，一碗野香葱炒新蚕豆拌浇麻油，另外，则是“关刀肉”加上一锡壶黄酒。
摆下供品后，黄金荣又点几根香烛，倒身拜了几拜，再把纸钱摊成几份，一份是父母亲的，一份是土地爷的，一份是邻居的，还有一份是给游荡在外面的野鬼留着的。
一缕缕青烟袅袅升起，一张张纸钱飞向冥府。烧完纸钱，黄金荣直起身来，看着坟头，不禁流下泪来。
平常，黄金荣是极少流泪的，就是在自己被卢筱嘉抓起关在石牢里，他也很少流过泪。但他看到躺在这荒野之间的父母，心里不禁一阵阵心酸。
他不由得暗自责怪自己了：难道看到这矮小的石坟，你不觉难过吗？按说，他此生也够辉煌的了。拥有四五个戏院与游乐场，两三座浴室，钧培里、源成里等数十幢房产，就是在苏州还有数百亩良田，可是大名鼎鼎的巨富，父母的尸骨还躺在这肮脏的荒丛中，能心安理得吗！
黄金荣越自责，心里越难过，那眼泪像断了线的珍珠，不由得簌籁地掉了下来。站在一旁的秘书龚天健看到此情此景，心里已知师父的心思。
“师父，是不是拣个黄道吉日，将老太爷的旧屋修一修，再种些花，挖口塘，养些鱼，让老太爷有地方转悠，然后弄些石人石马摆设摆设，为老太爷镇‘宅’。”
黄金荣回过头来，看了龚天健一眼，用手拍了拍他的肩膀说：“阿健呀，依你看，这坟应该怎么修呢？”
“回师父的话，具体怎么修法，我心里还没有谱。不过，只要师父一句话，小的哪个不尽份孝心哩！”
“好！我想要修，索性排场大点……”
“那就造祠堂。”
“造祠堂？”黄金荣叽咕一句，不觉想起去年杜月笙在高桥镇的事，那时，自己虽然总理杜氏祠堂之事，但心中愧得慌。因为看到别人的父母荣光耀祖，而自己的父母还“住”在荒野。但他当时压住了此念头，尽心尽力1936年6月，杜月笙在高桥家乡的“杜氏宗祠”建成后，组织了盛况空前的落成仪式，六千人的仪仗队在上海主要马路游行帮杜月笙完成了那件大事。
这杜氏宗祠到底是怎么一种盛况呢？
古人云：“富贵而不还乡，如着锦衣夜行。”地位显赫了，便想荣归故里。出此考虑，杜月笙决定重建杜家祠堂。一者，祖祠辉煌了，可以为自己挣面子；二者，也可以借此祭告早死的父母，月笙已经“曲蟮修成了龙”，若双亲地下有知，也可笑慰九泉。
1930年春，杜月笙集资五十万元，在高桥镇杜家宅祖宅附近购置了五十亩土地，招来大批工匠名师，兴建祠堂。同时，在《申报》上登出广告，征询本支亲属，找人纂修家谱。
1931年5月，杜家祠堂落成。步入祠堂，只见一溜五开间的大厅，这便是第一进的轿马厅。第二进为主大厅，厅中供奉福、禄、寿三星，两旁两座八尺高的云南大理石屏风，白云苍苍，远山隐隐，宛如两幅写意名画。第三进是“享堂”，供奉杜氏列祖列宗的牌位，楹柱龛屏，都是雕龙刻凤，墙砖彩绘，皆是戏文故事，富丽堂皇，神思逸远。
祠堂旁是一幢二层的藏书楼，白石砌就，中分五楹，附1931年6月10日，为使杜月笙家祠仪仗队能够通过，法租界和华界电车停驶两个小时有一所学塾，内藏门生好友所赠价值十万元的图书，供杜氏子孙及近乡子弟求学。
杜祠建成后，杜月笙为了炫耀自己在上海滩上显赫的地位，组织了一场轰动沪上的落成典礼，其规模之盛大，为上海开埠百年来所罕见。
请柬一发，惊动了朝野。不到十天，各式各样的礼物如潮水般地从四面八方向杜公馆涌来，匾联屏幅，古董玩物，旗伞花篮，礼券现钞，应有尽有。
接着是国学大师章太炎亲自润笔的洋洋千言的《高桥杜氏祠堂记》送到了杜府。章太炎的文章一出笼，便又引起一大堆名流们的长篇巨制祠堂记来。
其中胡汉民、刘芦隐、汪精卫、闻孝胥、虞和德、杨度、何成浚、谷正纲、贺耀祖、杨杰、叶开鑫都寄来了“记”“颂”等文章，这些文章全都是“金混翠墨”，“妙笔增华”。
杜氏家祠的落成典礼的主持机构，设总理三人：虞洽卿、黄金荣、王晓籁；协理七人：张啸林、金廷荪、郭祖强、蔡琴荪、胡泳茉、俞叶封和季应生。下聘各流，分组八处。
第一处为文书处，主任为前国史馆副馆长杨度，副主任是曾经票选中华民国第一任临时参议院议长汤漪；另设六名秘书，首席秘书是国民政府委员办公处秘书长陈群。
其余七处为：总务处、警卫处、卫生处、庶务处、筵席处、会计处、剧务处，每处各有处员十名。
1931年6月9日，天刚蒙蒙亮，杜公馆附近的几条马路上就人山人海，参加杜祠落成典礼的上万名仪仗队员、宾客及看热闹的人，把杜公馆围得水泄不通。
上午八时正，随着一声震天动地的鞭炮声，大队人马从杜公馆出发，浩浩荡荡地向高桥镇杜祠行进。
队伍的最前面，是公共租界特地派出的马队——二十四名骑在高头大马上的“红头阿三”，其后由几名壮汉合撑着一面两丈长的民国国旗；紧接着是四十八面写着“杜”的黄旗（表示杜月笙四十八岁寿辰）。
旗队之后，是由法租界一百名推着自行车的安南巡捕组成的护旗队伍，再后面是华捕和穿着童子军制服的“金荣小学”的学生，还有救火会、缉私队等队列。再后面就是警备司令部的军乐队和中央陆军军乐队。
乐队之后，是整整一个连的士兵，高抬着蒋介石所赠的“孝恩不匮”的金匾。大匾后面，是由公安局乐队护送、达官显宦和各界名流相赠的匾额以及各地慈善团体历年来送给杜月笙的十几把“万民伞”。
万民伞过去，当地保护团护送着徐世昌、段祺瑞、曹锟、吴佩孚、张宗昌等送来的大匾。行列最后，是蒋介石馈赠的彩亭，作为整个仪仗队的压轴。
仪仗队后面，便是送杜月笙祖宗牌位入祠的队伍，牌位放在“神轿”里，轿前用八面特大铜锣开道，周围是四十个身穿红绿彩衣，手捧花篮或香炉的少女。
杜月笙头戴礼帽，身着长袍马褂，带着儿子跟在轿后。他身后是几百名古装武士，手执从戏班里借来的戈矛剑戟和銮铃，后面还有数千宾客和他的门徒。
全队逶迤二华里，从杜公馆到金利源码头，足足走了三小时，一路鼓乐齐鸣，鞭炮震天，所经过的马路全部断绝，并有专门警察看管，数十万市民夹道观看。
这支庞大的队伍从金利源码头分乘几十艘大小轮船直驶高桥，从高桥码头到杜祠新修了一条长达十里的公路，路旁遍插彩旗，一里一个牌楼，送杜氏祖宗牌位的队伍沿着这条公路行进到杜氏祠堂。
上海明星电影公司专门派来了一支摄影队，摄下了这车水马龙，宾客聚集的盛况，后来在上海各影院公开放映。