在起义的准备过程中，一个很重要的方面是对军事力量的准备。
毛泽东用了相当大的精力布置秋收起义的军事力量。
（一）湘赣边界当时可以为党所用的武装力量
当时，在湘赣边界存在着几支革命的武装力量：一支是共产党员卢德铭任团长的国民革命军第二方面军总指挥部警卫团，因为没有赶上参加南昌起义而停留在那一带；一支是平江、浏阳等地的工农义勇军或农民自卫军；还有一支是准备起义的安源路矿的工人武装。1927年8月下旬，警卫团和平江、浏阳工农义勇军负责人，在湘赣边界的江西修水山口镇举行会议，决定合编为一个师：警卫团为第一团，驻修水；浏阳工农义勇军为第三团，驻铜鼓；平江工农义勇队分别补入这两个团。此外，还有安源铁路煤矿工人纠察队、矿警队和安福、莲花、萍乡、醴陵、衡山等地的农民自卫军，可以合编为一个团。这几支部队就是毛泽东领导湘赣边界秋收起义时的主要力量。
以卢德铭为团长的警卫团，全称为国民革命军第四集团军第二方面军总指挥部警卫团。这个团，是中共中央军事委员会于1927年6月在武汉组建的。它名义上是国民党所属国民革命军之一部，实际上是共产党领导的一支军队。
卢德铭（1905—1927），又名继雄，字邦鼎，号又新。1905年生于四川宜宾双石乡狮子湾（今属自贡）。1921年考入成都公学。学习期间受五四运动的影响，阅读了《新青年》等进步书刊，开始接受马克思主义。
面对帝国主义加紧瓜分中国，军阀连年混战，人民苦不堪言的现实，卢德铭决心学习军事，以武力打倒列强和军阀。1924年秋，卢德铭考入黄埔军校，进入第二期学习。同年底加入中国共产党。1925年2月参加讨伐军阀陈炯明的东征战役。他机智勇敢，多次化装潜入敌营侦察敌情，为夺取战役胜利做出了贡献。毕业后留校，在政治部组织科当科员。1925年11月调国民革命军第四军叶挺独立团任第四连连长。1926年5月，独立团担任北伐军先锋，从肇庆出发，挺进湖南。6月初，卢德铭率部坚守安仁县城以北的渌田镇，不仅打垮了进攻之敌，还主动发起反击，全歼残敌，为主力部队夺取攸县创造了有利条件，受到叶挺的称赞。在平江、汀泗桥、贺胜桥等战斗中，卢德铭指挥果断，身先士卒，英勇奋战，屡建战功，晋升为第一营营长。攻克武昌后，独立团改编为第七十三团，卢德铭任参谋长。1927年6月，国民革命军第二方面军总指挥部在武昌成立警卫团，卢德铭受中国共产党的委派担任团长。他深感责任重大，决心一切听从党的指挥。此时，“马日事变”后的湖南一片血雨腥风，大批共产党员和革命群众遭到屠杀。为了保存革命力量，上级党组织把在湖南工作的一批领导骨干陆续转移到武汉。卢德铭利用职务之便，将宛希先、何挺颖、何长工等人安排在警卫团担任各级干部，既保存了革命力量，又加强了中国共产党对这支部队的领导。
8月2日，卢德铭率部开赴江西，未赶上南昌起义，遂转移到江西修水与平江、浏阳农军会合。9月，他率警卫团参加毛泽东领导的湘赣边界秋收起义，任工农革命军第一军第一师总指挥，中共湖南省委前敌委员会委员。起义受挫后，在9月19日的文家市前委会议上，毛泽东主张放弃攻打长沙，把起义军转移到敌人力量薄弱的农村山区。卢德铭坚决支持毛泽东的主张，认为再攻长沙就有全军覆没的危险。这一意见，对于会议统一思想起到了重要作用。会议经过激烈争论，最后通过了毛泽东的正确主张，决定部队沿罗霄山脉向南转移。25日拂晓，起义军从芦溪出发南进。当行进到山口岩时，后卫第三团遭到敌军伏击。在这危急时刻，卢德铭挺身而出，率领一个连的兵力前往增援。他指挥部队抢占制高点，用猛烈的火力还击敌人，同时指挥被打散的第三团官兵迅速向前卫部队靠拢。就在这时，卢德铭胸部中弹，不幸壮烈牺牲，年仅22岁。得知这一噩耗后，毛泽东痛心疾呼“：还我卢德铭！”1982年，当地政府在他牺牲的地方修建了“卢德铭烈士革命陵园”。2009年，在纪念中华人民共和国成立60周年时，新华社与中央主要新闻单位和各省区市新闻单位联合推出大型人物专栏《人民英模》，以纪念那些开创新中国、建设新中国的共和国英模。卢德铭被评选为“100位为新中国成立作出突出贡献的英雄模范人物”之一。
警卫团的团、营级主要干部多为共产党员，士兵中共产党员和共青团员也不少。除上面介绍过的团长卢德铭以外，还有指导员辛焕文，湖北安陆人，1923年加入中国共产党，他熟悉英文、德文，研究过《资本论》，曾在北伐军总政治部任党务秘书，第二期北伐时任前敌指挥部政治部主任。参谋长韩浚，1893年生，湖北黄冈人，黄埔军校第一期毕业生。
另外还有两名团副，一个是余洒度，湖南平江人，1898年生，黄埔军校第二期毕业，1925年在军校加入中国共产党。1926年7月，奉命潜入武汉发动士兵暴动，任暴动队队长。1927年6月，任警卫团副团长兼第一营营长。另一个是范树德，湖南人，黄埔军校第四期毕业，共产党员，任警卫团团副兼辎重队队长，秋收起义时任工农革命军第一军第一师师部军需处处长。团部设有指导员办公室，办公室设主任一人，干事一人，负责政治工作。团部还配有参谋、书记、司书等人员。该团初建时只有两个营，8月2日离开武汉前增加一个新兵营。营、连、排干部三分之一是共产党员，且大部分是黄埔军校毕业生。
警卫团的组建和扩充与湖北、湖南、江西等省的革命运动有密切的关系。警卫团是由叶挺独立团改编的第七十三团分出一个营扩充而成的，而叶挺独立团的成员中有很大一部分是安源路矿的工人，警卫团组建后，陆续有湖南工农运动的骨干分子和安源工人参加。到秋收起义爆发前，警卫团共有3个营，大约2000人。陈士榘曾经回忆说：警卫团“全团共有2000多人，其中有不少是江西安源煤矿和汉阳兵工厂的工人，以及湘鄂两省农民运动的干部和积极分子”。
警卫团的组建是周恩来、叶挺、聂荣臻、张云逸等老一辈革命家和警卫团团长卢德铭等共同努力的结果，是这一批杰出的共产党人对秋收起义和工农革命军的创建而作出的一个重大贡献。这支军队，是湘鄂赣3省革命运动的产物。这支军队从武汉辗转到修水，和湖南省委取得联系，成为秋收起义部队的主力之一。
根据组织安排，卢德铭率领的警卫团本来是计划参加南昌起义的。
1927年8月1日深夜，卢德铭先后接到两份电报：一份是贺龙所部第二十军政治部主任周逸群从南昌发来的，告知南昌起义已经开始，令他立即率部赶赴南昌；另一份是张发奎部的副总指挥黄琪翔从九江发来的，令警卫团迅速出发，到九江待命。卢德铭接到两份电报后，决定不回张发奎的电报，却利用张的调兵命令，以开往九江为掩护，把部队带往南昌，与南昌起义军会合。在武宁，警卫团与余贲民率领的平江农军相遇，余贲民告知卢德铭，南昌起义部队已经往广东方向转移。这时，中共江西省委给卢德铭写来一封信，谓南昌起义部队缺少有作战经验的干部，要他和指导员辛焕文、参谋长韩浚离开警卫团去广东东江加入南昌起义部队。于是卢德铭决定把部队交给团副兼第一营营长余洒度指挥，让余带部队去湘赣边界的修水休整待命。卢德铭便和辛焕文、韩浚二人一道，化装离开部队，经长沙到武汉，原拟从武汉乘船经上海去广东汕头，后来他们在武汉见到湖北省委宣传部长向警予。向警予向他们传达湖北省委指示，要他们仍回原部队。后来经过曲折艰难的长途跋涉，卢德铭在湘赣边界秋收起义发动前夕才来到修水渣津，担任秋收起义部队的总指挥。
平江工农义勇队是1926年8月北伐军进入平江后，由共产党员余贲民奉命接收县政府民团队，经过改造逐步发展而成的。
余贲民（1888—1933），湖南平江人，字金榜，号世英，别号楚龙。
1911年参加辛亥革命，在攻克武昌的战役中英勇负伤。五四运动后，在县城与李六如等积极开展反帝爱国斗争，被选为雪耻会会长。1922年6月在长沙由毛泽东介绍加入中国共产党。是平江党组织的创始人之一。
1926年，余贲民赴广东农民运动讲习所学习，毕业后，根据党的指示，担任平江县团防局局长。8月中旬，北伐军叶挺独立团进抵平江，余贲民率团积极配合北伐军作战，先攻克白石岭，后夜渡汨罗江，打下了平江城。“马日事变”后，任平江县工农义勇队大队长。秋收起义期间，余贲民任平江工农义勇队大队长和工农革命军第一军第一师副师长兼第三团团长。起义部队到达井冈山后，他受毛泽东委派，负责部队的后勤工作，还兼任被服厂厂长，在当时非常困难的条件下，他发动群众，千方百计地解决部队的粮食和战士们急需的冬衣问题。1928年5月，被任命为湘赣边界工农兵政府财政部长，不久调任红军后方医院院长。
1930年7月，他奉命回到湘鄂边区开展武装斗争，任湘鄂赣红军军政学校校长，将300余名学员培养成为红军的优秀军政干部。1932年，余贲民调任湘鄂赣省委军事部长，负责领导地方武装的建设和作战。同年12月，为掩护省委机关和区乡干部2000余人向浏阳方向转移，余贲民指挥前卫连，打垮守在石鼓山上的一支地主武装，为部队转移扫清了道路，但他却身负重伤。1933年4月9日，余贲民因伤势恶化，在江西省万载县小源红军医院逝世，时年45岁。新中国成立后被追认为烈士。
余贲民接收平江县政府民团队后，即将民团队改为团防局，自任局长，逐步对团防队进行革命的改造。中共党组织陆续输送一些农运骨干进去当兵。余贲民又设法陆续收缴了外来散兵的300多支枪。这样，逐渐扩充到拥有近500人、300多支枪的队伍。后来，余贲民将团防队、工人纠察队和农民自卫军合编为平江工农义勇大队，并任大队长。1927年7月中旬，平江工农义勇军与浏阳农军奉命去南昌参加起义。余贲民率部从平江出发，到达平修边境龙门厂，与浏阳工农义勇队会合。会合后的队伍经过渣津、马坳、修水县城、武宁等地，8月5日到达涂家埠，正准备乘火车去南昌，获悉南昌起义部队已经南下，已追赶不上，且前面又有张发奎部阻挡，无法通过。于是两支武装分开行动：浏阳工农义勇队继续南下追赶南昌起义部队；平江工农义勇军则折回，准备开往修水县城休整待命。
浏阳工农义勇队是大革命高潮中由中共浏阳县委书记潘心源领导组建和发展起来的。
潘心源（1904—1931），字国方，湖南浏阳（今浏阳市）人，又名潘心元。1923年加入中国共产党。1924年，中共湘区委员会派他到浏阳，以小学教师身份为掩护，开展革命工作。1926年任中共浏阳县委书记，并主持国民党浏阳县党部工作。1927年初，创建浏阳工农义勇军，任党代表。这支队伍后来成为湘赣边界秋收起义的3个主力团之一。1927年4月，潘心源作为湖南代表之一，赴武昌参加了党的五大。会上，他积极支持毛泽东提出的建立农村政权和武装农民的主张。5月21日“马日事变”后，他带领农军参加了攻打长沙的战斗。8月底，他参加了毛泽东在安源张家湾主持召开的秋收起义前敌委员会军事会议，会后，率浏阳工农义勇队编入中国工农革命军第一军第一师第二团，任党代表。随后参加了秋收起义。起义后奉命重回浏阳，开展游击战争。1928年1月，潘心源被任命为平浏丰特委副书记。同年冬，被选为中共湖南省委委员，担任省委农民部长。此后，他积极探索游击战争的战略战术，提出了“彼集我散，彼散我集，昼伏夜出，化整为零；既要会打圈，又要会打仗”的军事原则，为丰富我军游击战略战术做出了贡献。1930年2月，潘心源以中共中央巡视员身份，前往湘赣红军部队传达党的六大决议。2月7日，赣南特委负责人在吉安召开联席会议，决定将红四军的前委扩大为四、五、六军的总前委，他当选为总前委常委。不久，潘心源调到红三军工作，任代政委。8月，调任红四军政委，并被选为红一方面军前委委员、中央军委委员。1931年，任中共浙江省委书记，被中央派到浙江开辟新的作战区域。这年8月，潘心源乘海轮赴浙江温州，到达温州后，因叛徒出卖被捕，惨遭杀害，年仅28岁。