曹操自从失掉了十多万支箭，心里非常气闷，于是和部下商议，决定派蔡瑁的两个弟弟蔡中、蔡和假装向东吴投降，以便摸清东吴军队的内部情况。
周瑜正在部署进兵的事，忽然有人报告说：蔡和、蔡中前来投降。周瑜下令喊他们进来。两个人哭着说：“我哥哥没有罪过，被曹操杀了。我们两人要替哥哥报仇。希望将军能收留我们。”周瑜听了，装出十分高兴的样子，立即重赏他们两个。蔡中、蔡和拜谢了周瑜，以为他真的中计。周瑜暗中吩咐手下的大将甘宁说：“他们两个没有带家小来，不会是真的投降，想必是曹操派来的奸细。我现在将计就计，教他们通报个假的消息。你要好好招待他们，暗中提防。到了出兵的那天，先杀了他们祭旗。你要千万小心，不可误事。”
甘宁接受了命令刚刚走开。鲁肃进来说：“蔡中、蔡和来投降，多半是假的，不可以收留。”周瑜不以为然地表示：“曹操杀了他们的哥哥，要报仇才来投降，哪里会假？你如果这样多疑，哪能容得天下的英雄好汉。”鲁肃默默地告退了，跑去告诉诸葛亮。诸葛亮听了，只是笑了笑并不答腔。鲁肃说：“你为什么要笑？”诸葛亮说：“我笑阁下不知道公瑾用的计策。大江隔得远，奸细极难往来。曹操叫蔡中、蔡和假意投降，偷听我军消息。公瑾将计就计，正如利用他们通报假情况，以迷惑对方。公瑾的计策很好。”鲁肃这才恍然大悟。
周瑜晚上坐在军帐里，忽然看到黄盖走了进来。周瑜说：“你夜里来到，想必有好的计策要谈。”黄盖说：“曹操的兵多，我们的兵少，不能长久地对峙下去，为什么不用火攻来取胜？”周瑜问：“谁教你献这个计的？”黄盖说：“是我自己想出，不是人教的。”周瑜说：“我正是想这样做，才留下蔡中、蔡和这两个假投降的人，使他们去通报消息，只恨没有人替我也去假意投降曹操。”黄盖说：“我愿意去。”周瑜说：“不受些苦，曹操哪肯相信你？”黄盖表示：“我愿意受苦。”周瑜说：“你如肯行苦肉计，咱们江东就有办法了。”黄盖说：“为了江东，我死而无怨。”
第二天，周瑜把众将官都集中在军帐里，诸葛亮也应邀前来。周瑜说：“曹操带领一百万兵，驻扎在三百多里的战线上，不是短时间就能战胜的。如今我命令诸位将官各人领三个月粮草，准备抵抗敌人。”话未说完，黄盖站出来说：“不要说三个月，就是领十三个月粮草也不济事。如果这个月消灭不了曹操的人马，只可依照张昭所说，向曹操投降。”
周瑜大怒说：“我奉主公的命令，带兵攻打曹操，谁敢说一句投降的话，我必杀之！”说完就令手下的人把黄盖推出去斩首。众将官苦苦告求，周瑜才没有杀黄盖，而命人剥了他衣服，打了五十大棒。
黄盖被打昏过去几次，看到的人，都掉下泪来。鲁肃亲眼看了黄盖的棍伤，然后来到诸葛亮的船里，对诸葛亮说：“今天公瑾怒打黄盖，我们都是他的部下，不敢硬去劝说，先生是客人，为什么坐在旁边，不说一句话？”诸葛亮表示：“阁下难道不知道公瑾今天毒打黄盖，是用的计策吗？为何要我劝他？”鲁肃还弄不明白，诸葛亮说：“不用苦肉计，怎能瞒过曹操？如今公瑾想让黄盖去假意投降，却教蔡中、蔡和把这一情况通报给曹操。阁下见了公瑾，千万不要告诉他我先觉察此事，只说我也埋怨他才好。”
鲁肃再看望周瑜。周瑜把他请到军帐内。鲁肃说：“今天为何要毒打黄盖？”周瑜问：“将官们埋怨没有？”鲁肃说：“有很多人心里不安。”周瑜问：“孔明的意思怎样？”鲁肃说，他也埋怨你太不够交情。周瑜笑着说：“今天总算瞒过他了。”鲁肃说：“你说的是什么意思？”周瑜说：“今天痛打黄盖是用的计策。我要他假意投降，先用苦肉计，瞒过曹操，然后用火去进攻，可以一举取胜。”鲁肃内心暗暗佩服诸葛亮的高明，却不敢在周瑜面前明说。
黄盖被打后，先派阚泽去曹营投了降书，蔡中、蔡和也向曹操汇报了这一情况。曹操表面非常相信，便让阚泽回东吴约黄盖投降。阚泽回到东吴，故意在蔡中、蔡和面前同甘宁发了牢骚。接着又写信给曹操，约定在船头上插了青牙旗前来投降。
曹操接到阚泽来信以后，心里还疑惑不定，对谋士们说：“谁敢深入周瑜营寨里，打听真实消息？”蒋干自告奋勇。曹操非常高兴，立即教蒋干上船前往东吴。周瑜听说蒋干又来江东，欢喜地说：“我的妙计取胜，关键就在这个人身上。”于是关照鲁肃去请庞统。原来庞统住在江东，鲁肃曾推荐给周瑜。
周瑜也请鲁肃问过庞统如何打败曹军的办法。庞统曾说：“破曹兵，要用火攻，但在大江之上，一只船着火了，其余的船只容易走散，仍旧没有效用，除非献连环计，教他钉在一起，然后可以成功。”鲁肃告诉周瑜，周瑜非常佩服这一见解。
周瑜一面请庞统用计，一面派人安排蒋干在西山庵里休息。蒋干住在庵里，心中烦闷得很。晚上，一个人走出庵后，听到有人读书的声音。只见山脚下有几间草屋，走过去一看，此人原来在读孙武兵书。蒋干想，“这个人一定很不平常。”于是敲门进去打了招呼，问了姓名，知道这人名叫庞统。两人谈了半天，庞统表示愿意随蒋干同去帮助曹操。
曹操见了庞统，特地出帐迎接。庞统参观了曹军旱寨水寨以后，趁机向曹操献了“连环计”。这时曹操正为了船在江中，动荡不停，士兵们纷纷闹头晕而犯愁，因为曹操的士兵大多是北方人，不习水战。现在听庞统一说，立即下命令，叫铁匠连夜铸造连环大钉，锁住船只，上面铺上阔板，在水上行走就好比陆地一般。庞统献计以后，仍然暗中回到江东。