正在这个时刻，秘密掩藏武器的小北直街大安米店被敌人破坏；教导团内也有反动分子告密。汪精卫得知后，连夜派其妻子陈璧君从上海回广州，面告张发奎要立即镇压暴动。12月9日，汪精卫连发三电给他在广州的代理人陈公博以及张发奎、朱晖日，要他们火速解散教导团，查封工人赤卫队总部，“认真清肃共党”，并严厉指出：“所部凡有纵容共党者，立即严加惩办，决勿稍存宽恕”，“如苏俄领事有包庇情事，应即勒令出境”。就在这时，中共设在小北直街的大安米店的武装转运站被敌人侦破，更增加了敌人镇压起义的决心。
本来，教导团参与广州暴动一事，张发奎已有耳闻，并准备加以镇压，只因没有抓到可靠的把柄，加上叶剑英在旁多次劝阻，极力保护，张才未及下手。此事中共东江特委在事后给省委的报告中曾经提到：“这次广州的暴动，完全是以军官教导团做主力的。在我们未暴动以前，反动派对于军官教导团有一种风气，就是说军官教导团自官长以至兵士通通都赤化了，亟（就）要暴动了。所以张发奎、黄琪翔、朱晖日等的第一次军事会议时，朱晖日就主张要向他们大施屠杀。叶剑英同志极力担保，黄琪翔亦表示不赞成此种主张（黄已向我们妥协），故他们第一次欲向我们屠杀的主张已经没有实现。”叶剑英不但担保教导团，还利用其特殊身份营救被捕的地下党员（包括省军委秘书麻植）和革命分子。
随着时间的推移，张发奎看到共产党准备暴动的迹象愈来愈多，感到危险似乎正一天天临近，于是召开第二次军事会议，作出了屠杀全广州的革命分子的决议，并于12月10日密调黄琪翔所部从西江前线赶回广州，策划以武力进行镇压。在此千钧一发之际，叶剑英挺身而出，面见张发奎：“总指挥，根据我的侦察，所谓共产党暴动的情报并不可靠！”他分析形势说，共产党发动南昌起义业已失败，贺龙、叶挺败走汕头，绝对没有力量在广州暴动，不可轻信谣言。但是，张发奎的口袋里正揣着几封汪精卫发来的电报，内心还是疑多信少。叶剑英又向他说明自己是教导团的老团长，更了解教导团的所作所为，并一再担保：“共产党暴动不成”，即使暴动了，光凭警卫团也对付得了。这样，他一方面稳住敌人，另一方面，将所获敌人有关镇压起义的部署，随时报告党组织，暗地里通知教导团作好准备，警惕敌人袭击。
起义前夕，叶剑英还特意到教导团，向全体师生严正指出：“很遗憾，张总指挥听到坏人告密，诬指我们教导团要举行武装暴动，并且准备从外面调动队伍来缴你们的枪，为此，我已向总指挥当面辟谣，大家可以放心操练，不要听信坏人的谣言！”他联系国内形势，告诉大家：“国民党内部斗争十分激烈。新旧军阀仍在津浦路混战，叶、贺队伍退到海陆丰，还要‘聚众闹事’”……这次讲话讲得非常及时，又很含蓄，局外人听来，是官长在教育部属，而在教导团革命师生听来则是传递消息，备受鼓舞。这可以说是叶剑英在起义前夕对教导团所做的一次重要的战斗动员。为了麻痹敌人，教导团不动声色，按时作息，一切照常。只有少数党员在夜幕的掩护下，悄悄地进行着起义的准备工作。
12月8日，中共广东省委在《关于暴动工作的准备情形给中央的报告》中特意提出：“我们指导力量薄弱，希望恩来兄能即来。”但周恩来因工作离不开，未能来粤。革命军事委员会根据叶剑英和其他方面提供的情报，决定于11日提前起义。中共广东省委派叶挺前来广州担任军事总指挥。他12月10日从香港仓促起程，当晚到达广州，立即投入了紧张的起义前的战斗部署工作。10日晚，起义总指挥部成员及有关人员举行了秘密会议。参加会议的有叶挺、张太雷、周文雍、黄平、聂荣臻、杨殷和徐光英；还有新任命的教导团团长李云鹏和各营营长叶镛、赵希杰、饶寿柏，警卫团团长梁秉枢，以及工人赤卫队、市郊农军的领导骨干多人。会议确定了起义的时间和各路起义队伍的战斗任务、行动路线、联络信号等等，同时要求大家严守纪律，听从指挥，坚决完成任务。会后，省委当即向中央作了紧急报告，指出：“广州暴动之时机已到，此时如不动作，教导团力量将被其解散，同时敌人更加紧地向我们进攻”，“省委决定明日即行暴发广州之暴动”，并要求“中央对此事给我们以迅速而详细的指导”。报告还再次希望“派恩来同志来指导最近工作”。午夜，在教导团的营房里，几名革命战士按照计划悄悄摸进参谋长朱勉芳的卧室，将其抓获。与此同时，各连的反动分子也被一网打尽。
12月11日凌晨2时许，张太雷和工农红军总指挥叶挺、秘书长恽代英以及工人赤卫队的代表等，在教导团派出的一位连长陪同下，乘着小汽车来到教导团驻地四标营。当时新团长正在佯睡，张太雷命令他立即紧急集合，把队伍带到操场集中。与此同时，又命令团党委委员唐高带领一些人去把反动参谋长朱勉芳解决了，并把其他反动分子拘集起来。部署既定，随即举行全团官兵1000多人的誓师大会，张太雷在会上作起义动员。他愤怒地谴责了国民党反动派背叛革命，野蛮屠杀革命群众的罪行，阐明了武装起义的重要意义后，接着说：“今天夜间，我们要在广州举行暴动，要打倒国民党反动派，要完全解除敌人在广州的武装，我们要成立苏维埃政府。你们教导团是暴动的主力，你们要勇敢战斗，完成我们党交给的任务！”最后，他慷慨激昂地号召说：“革命士兵兄弟们！在国民党反动派残暴统治下，革命士兵除了和工人、农民一道，高举革命红旗，拿起武器，和国民党反动派拼个死活外，第二条出路是没有的。起来吧！广州苏维埃万岁！无产阶级革命成功万岁！”张太雷的语音刚落，台下就响起了“打倒国民党反动派！”“打倒帝国主义！”“中国共产党万岁！”“广州苏维埃万岁！”等雷鸣般的口号声。
工农红军总司令叶挺也在会上宣布了起义的战斗部署和教导团各营的战斗任务；还宣布了各营、连、排的指挥员。最后，教导团的代表讲话。他郑重地宣布：教导团全体官兵一致接受中国共产党的领导，坚决参加武装起义，为推翻国民党反动统治，建立广州苏维埃而战斗。说完，他把军帽上的青天白日帽徽摘下来，摔在地上，从口袋里取出一条崭新的红领带，系在自己的脖子上。接着，全团官兵也迅速摘下军帽上的旧帽徽，系上鲜艳夺目的红领带，并庄严地宣誓：打倒新军阀，打倒帝国主义，推翻国民政府，竭诚拥护中国共产党，服从苏维埃命令，拥护广州苏维埃。