11月24日，唐生智抵达上海，邀旧部李觉、刘建绪陪他去南京见蒋介石。李觉对唐竟然在形势危急的时候去见蒋大惑不解。两天之后，李、刘还是陪唐去了南京。途中，唐生智对他们说：“现在不光是大局危急，而是国民党整个垮台，我是去为蒋介石送终的！临终前有个把朋友去看看他，总是好的，说不定还会给我一个什么名义回湖南去活动活动哩！”他还说：“这次到南京，主观上是想要程颂公（程潜）把绥靖主任或省主席让一个出来，让哪一个都行。如果办不到，就设法搞一个湘粤桂边区总司令，你来当参谋长。如果这也搞不成，颂公又不合作，那我们就自立名义干起来。我邀你们同去，借以表示还有旧部在为我捧场。”唐还透露出他的旧部刘兴已表示支持他，希望李、刘也能支持他。李觉则提醒唐说，蒋介石一向不信任他，而白崇禧控制了湘、鄂、赣、粤几省，对唐也很疑忌，要想从蒋介石那里捞到什么，恐怕很难。唐生智表示“先去试探一下，不成再说”。
黄克虎先于唐生智到达南京，他把唐即将到京的消息告诉了周伟龙。周系湖南湘乡人，黄埔军校第四期学生，1927年宁汉分裂时担任过唐生智部的宪兵营长。抗战后期，任军委会别动军司令兼中英情报合作所主任，并与美国人合办中美合作技术训练班，训练别动队骨干。此时，任旅京湖南同乡会会长，担任交通警察第一总局局长，管辖除东北三省以外的全国铁路、公路、航空、水运等方面的交警事务。他得知老上司唐生智要来南京，非常高兴，便立即转告宪兵司令张镇，请他为唐准备下榻的地方，并保证唐的安全。
张镇是湖南常德人，黄埔军校第一期毕业，早年担任过宪兵团长，后升任宪兵副司令、司令兼军委会军法执行总监部副监，与唐生智要好。唐到达南京后，住在张镇家里。唐有宪兵司令保护，既有安全感，又可减少许多麻烦，便在张家住了一个星期。
唐生智到达南京的当天，周伟龙等以湖南同乡会的名义在新街口附近的介寿堂举行了“欢迎唐生智将军莅京大会”，各界人士约三百余人参加。唐作了即席讲话，强调“当前形势最重要的是三个字‘和为贵’，只有和平，才能化干戈为玉帛；只有和平，才能结束多年的内战局面，从事经济建设；只有和平，才能使广大群众有休养生息的机会。如果我们继续执行戡乱政策，则将越戡越乱，不可收拾。”赢得了雷鸣般的掌声。
唐生智准备继续往下讲时，南京《救国日报》社的社长龚德柏忽然站起来发难说：“唐先生你是国民党元老，现在竟在唱和平的高调，不是为共产党做宣传吗？否则，恐怕你的精神有些失常吧？”龚德柏绰号叫作“龚大炮”，对国民党要人也常放“大炮”，但从不犯蒋。唐听了他的插话，火冒三丈，大发雷霆说：“我在演讲中，你忽然打断我的讲话，是最大的不礼貌，而且进行人身攻击，显然触犯了刑律。公民有言论自由，宪法有明文规定，你有什么权力干涉我的自由？”于是，会场中有人高呼要龚德柏滚出去，也有个别的人附和龚德柏，会场秩序大乱。周伟龙只好宣布暂时休会，并把唐护送到张镇家里。可见，围绕“戡乱”与“和平”的斗争是相当激烈的。
当时，国共双方军队正在进行淮海战役，黄伯韬兵败自杀，蒋介石穿梭于南京、徐州之间，亲自督战，仍不能挽救败局。蒋派张治中专程迎接唐生智，并要张转达他的意图，拟请唐出任衢州绥靖公署主任。唐有前车之鉴，又看到蒋失败已成定局，便委婉拒绝了。
过了两天，蒋介石会见唐生智，首先对唐恭维一番，称他是“党国元老，德高望重”，希望他“能以党国利益为重，共同携手，挽国家于危难之中”。唐却坚持认为仗不能再打了。两人谈不到一块去。一天晚上，蒋介石宴请唐生智，请张群、何应钦、熊式辉等人作陪。唐和熊先到，熊向蒋建议，要张公权到日本去跟盟军最高统帅麦克阿瑟联系，请其把驻在青岛的美国海军转移到长江中来，以阻止人民解放军南下。唐生智不以为然，便插一句，“那太不像话了！”蒋见话不投机，赶快提起另一件事，将话题拉开。唐原希望能向蒋提些意见，劝他采取明智的态度，但毫无结果。
唐生智在南京还见到了龙云，对他说，“老蒋已经自顾不暇，你还不设法赶快走哇。”并问他跟东北的旧部是否有联系，劝他“好自为之”。事实上，唐、龙已相约另谋出路。