过了几天，唐生智回到上海，见到了李宗仁和他的外交秘书甘介侯。甘声称蒋介石是干不下去了，只有让位于李宗仁。唐生智认为，老百姓希望和平、民主，而蒋悍然挑起内战，结果其军队被打垮，他垮台是必定的。继起的人非谋和是没有出路的。李宗仁称能战才能和，和时才能对等。唐生智指出，“老蒋的嫡系部队那么多，但是他违反了民意，就没有办法。我看只有一心一意地谋和，才是正道。”李宗仁不以为然，说了一句“不见得”，幻想美国海军开入长江。唐生智嗤之以鼻，说：“它不敢吧。”李急忙改变语气，称和是可以讲的，就看中共方面的诚意如何。唐又强调，“只要我们诚意求和，是一定可以得到对方的同意的”。一个主张尽早和平，一个主张把战争拖延下去，都不愿放弃己见。最后，也只是谈谈笑笑罢了。
唐生智还与刘航琛谈过好几次话。刘也认为蒋介石无法再搞下去，而且李宗仁正在拉他，他准备为李奔走。唐对他说，“蒋既没有办法，难道李宗仁有办法吗？”给他指出国家的希望只有靠共产党，并建议他与共产党方面取得联系，以便另谋出路。可是，刘官迷心窍，想做特任官，决定为李宗仁效力。最后，唐直言忠告他：“真是不值得”，劝他好自为之。
唐生智见蒋介石、李宗仁不接受他的意见，便与中共地下党组织负责人吴成方直接取得了联系。吴向唐转达了中共方面对他的态度，说：“我们对你是了解和信任的，你从北伐到现在，没有跟我们打过仗，我们是清楚的，你是够朋友的。”对唐的所作所为表示肯定。帮助唐分析形势，吴希望他为打倒蒋介石、迎接全国解放而努力，并与唐商定在耀祥中学架设“迎解秘密电台”，安插地下党员。唐生智深受启发，感到精神倍增。他后来深有感触地说：“我应该感谢共产党和上海地下党的朋友，为我指出一条光明的出路。”
当时，民主党派的李济深、郭春涛等人，也与唐生智会了面，希望他参加策反工作。唐生智还与主张谋和的章士钊商谈了团结谋和的办法。陈云章、章士钊支持唐回湘当省议会议长。当时，陈已经得省主席程潜同意，让唐代替赵恒惕任议长。唐也愿意利用这个机会来从事策反工作，便答应下来了。后来，程潜背弃诺言，让唐伯球当了议长，他担心唐生智当了议长会取他而代之。
唐生智接受共产党方面的建议，立即开始了策反活动。他策动周伟龙起义，周答应在时机成熟的时候拉出部队，控制交通枢纽。淮海战役开始后，他在担任津浦铁路护路总司令时，派人与唐生智、程潜联系，把交警仓库物资和人员运往衡阳。
毛人凤发觉后报告了蒋介石，蒋下令将周拘捕，解往台湾处死。唐还对宪兵司令张镇进行了策反，并说服了他。张后来到了长沙，而唐则身居东安，二人未曾见面，张起义的决心有些动摇，但仍按事先与唐商量好的计划把宪兵第十团留在了湖南，命令团长姜和瀛保护好唐生智和进步人士。张镇本人以后去了台湾，被蒋介石派人毒死。
唐生智在南京、上海策反的时候，国民党军队一败而不可收拾。1949年1月，淮海战役结束，国民党方面损失最精锐的机械化部队五个兵团共五十五万余人，从此丧失了大兵团作战能力。军事上的惨败又加剧了政治危机，蒋介石被迫于1949年1月下野，由李宗仁代行总统职权。
李宗仁虽代行总统职权，但仍感势单力薄，穷于应付，便想拉唐生智入阁，以提高桂系的地位。唐劝李认清形势，不要再打内战了，要李答复中共提出的八项和谈条件，唐答应在谋求和平的基础上与李合作。后来，南京方面拒绝在“八条”上签字，唐生智拒不入阁，并愤慨地表示：“王八蛋才入阁！”
不久，因周伟龙被捕，中共地下党组织通知唐生智赶快离开上海。2月初，唐乘飞机到达衡阳，发表谈话，称战争不能解决问题，与其引狼入室，利用外援来打内战，不如发扬民气。他还强调：“惟和平始能救国家、救人民，惟民主始能促成和平。”再一次表达了反对内战，要求和平的心声。旋即，唐又回到东安，宴请零陵的专员、各县县长、学者、贤绅，痛斥蒋介石发动内战，不得民心，指出国民政府失败倒台指日可待，劝大家不要卷入内战，要为人民做好事。
在唐生智回湘的时候，吴成方也专程赴长沙与共产党湖南省工委联系，还通知中国国民党革命委员会（简称“民革”）地下组织的方鼎英等人，希望他们“首先要尊重和征求唐生智的意见，推动湖南的和平自救运动，以迎接解放”。