正如前文提到的，当时，党所掌握和影响的军队主要就是集中在张发奎的国民革命军第二方面军（包括第四军、第十一军、第二十军）中。第十一军二十四师师长是叶挺，第二十军军长是贺龙。第四军二十五师是以叶挺独立团的骨干扩编而成的，叶挺曾任该师副师长，其中第七十三团团长周士第和第七十五团部分团、营干部，都是共产党员，该师驻南浔线马回岭地区，有兵力3000人。准备参加南昌起义的还有蔡廷锴率领的第十一军第十师4500人。7月间，他们打着执行武汉政府“东征讨蒋”命令的旗号，由武汉、鄂东一带，已陆续向长江下游移动，分驻江西九江和九江、南昌之间。此外，共产党员朱德领导的第三军军官教育团，在南昌培养了大批军事干部和工农运动骨干。云集在这个地区的革命武装力量达2万人以上。其中叶挺、贺龙率领的军队，是这次起义的主力。
当时，国民党在南昌的兵力比较空虚，只有朱培德的第五方面军第三军的2个团、第九军的2个团，程潜的第六军1个团，以及江西省政府警卫部队和宪兵营，共约6000多人。在这一地区起义是有成功把握的。
据曾是中央农民运动讲习所（武汉处）学员的涂国林回忆：他们乘坐一艘军船从武汉秘密来到九江，“在九江上岸后，当晚即宿勃兰地教堂（现柴桑小学），第二天移驻圣约翰中学（现171医院）。九江满街满巷都是我们的部队，‘同志’、‘同志’之声充满空间，已经好几天接触不到这种空气，现在听起来格外亲热。”这种革命气氛曾为“红都”武汉所独有，此时已转到九江地区。革命的中枢似乎从湖北转到了江西。
7月19日，中共中央军事部的聂荣臻、贺昌、颜昌颐受指派来到九江，他们按照周恩来的指示：“先到九江去，通知我们的同志，叫他们了解中央的意图，做好起义的准备。但什么时候发动，要听中央的命令。”聂荣臻回忆“：我到九江，第一个通知叶挺”，并住在叶挺的司令部。聂荣臻和叶挺是在莫斯科学军事时的同学。
当蒋介石与汪精卫先后叛变革命的时候，叶挺正任国民革命军第十一军第二十四师师长，具有将军的军衔。大革命时期的将军每月有几百块大洋的收入，因此，此时的叶挺生活优裕。他本人又是北伐名将，战功卓著，为各方瞩目。然而叶挺却毅然放弃这一切，投身于革命事业之中。
国民党方面并非没有争取叶挺等将领的打算，张发奎明确知道叶挺是中共党员，但他与叶挺之间私交甚好，且认为可以将叶挺争取过来，最低限度也可以让叶挺离开部队。
但是，这个时候的叶挺已经对国民党彻底失望了，他后来在《南昌暴动至潮汕的失败》一文中写道：北伐军到两湖后，工农运动有突然的发展，才使一切反动势力（富有阶级地主军官）结合而向工农进攻，尤以革命政府及军队内十分之九的军官为甚。在武汉政府未进军河南时，我们军队同志的集会已提及这个严重的问题，但党对此并没有一个解决的方法。当时武汉政府有保护军人财产的命令，我们的党已由此逐渐取一个退让的政策……湖南的工农及我们的同志，已决心进攻武汉，消灭唐生智的势力，当时我们的党仍主退让并制止勿动。
这说明叶挺在局势日益紧张并恶化的局面下，仍然保持清醒的头脑及革命的警惕性，并随时为反击做好准备。他继续写道：至七月二十号左右，我们的军队因讨蒋的任务，集中九江者，约六团，张发奎已实行分共的政策，令我们著名的同志退出共产党。此时我们的负责同志，因武汉形势险恶，多到九江。由谭平山召集一个谈话会，参加的有邓中夏、李立三、聂荣臻、叶挺等，多主张令我即刻联合贺龙的军队，向武汉政府示威，作一个革命的榜样。
而在7月中旬前后，叶挺已经将二十四师师部设在九江城东16号，这里是原圣约翰中学校长高达德的公寓。这是一栋西式回廊结构的二层楼房，青砖红瓦，四坡顶。因为是暑假期间，全师5500多官兵都驻扎在圣约翰中学及周边地区。