3月，红四军第一次进入福建境内。3月14日，在长岭寨全歼国民党福建省防军郭凤鸣旅，乘胜进占闽西重镇长汀县城，缴获了一批武器和大量给养。还在这里建立了长汀县革命委员会，这是在红四军帮助下建立的闽西第一个地方红色政权。20日，前委在长汀“辛耕别墅”召开扩大会议，决定红四军在赣南、闽西20余县建立新的苏维埃割据区域。
为了适应新的形势，在长汀期间，红四军根据2月初罗浮嶂会议的决议，完成了部队整编任务，全军变为3个纵队：第一纵队由原二十八团第一、二营组成，纵队长（不久后改称司令员）林彪、党代表陈毅；第二纵队由原军部独立营、特务营和二十八团第三营编成，纵队长胡少海、党代表谭震林；第三纵队由原三十一团组成，纵队长伍中豪、党代表蔡协民。同时，军部领导机关也得以健全，成立了红四军政治部，军党代表毛泽东兼任政治部主任。
红四军还在长汀没收了郭凤鸣的一个小型军服厂，又筹集到军饷现洋5万元和一批布料，赶制了4000套列宁装式样、佩有红领章的灰军装和红五星八角帽、灰布绑腿，每人发了一套。这样，红四军从创立以来第一次统一了着装，军容焕然一新。
4月1日，红四军从福建长汀回师赣南，进驻瑞金，与从井冈山突围南下的红五军主力会合。毛泽东主持召开红四军前委会议，决定将红五军和红四军三十二团改编为红四军第五纵队，湘赣边界赤卫队为红四军第六纵队，彭德怀以红四军副军长的名义指挥这两个纵队。
也就是从4月开始，红四军先后进占瑞金、雩都、宁都、兴国等县城，积极发动群众，开展土地革命，在赣南初步打开了局面。
4月3日，毛泽东、朱德在瑞金接到由福建省委转来的中共中央2月7日根据共产国际领导人的意见写来的信（史称“2月来信”）。由于中央对工农武装割据的意义估计不足，对形势的估计比较悲观，在信中要求“将红军的武装力量分成小部队组织散入湘赣边界各乡村中进行和深入土地革命”，这样才能“避免敌人目标的集中”；并要求朱德、毛泽东“离开部队来中央”，以免“徒惹敌人更多的注意”。4月5日，红四军前委复信中央，指出中央2月来信“对客观形势及主观力量的估量，都太悲观了”；主张利用蒋桂两派军阀争夺江西的时机，积极进取，采取“争取江西，同时兼及闽西、浙西”的战略方针。由于蒋桂战争很快爆发，中央改变了“2月来信”中所提出的一些意见。
4月上旬，蒋桂战争爆发，江西国民党军队无暇顾及红军的行动。
11日，毛泽东在雩都县城主持召开红四军前委扩大会议，同意彭德怀率部回井冈山，恢复湘赣边界根据地，决定红四军主力在赣南实行近距离分兵，发动群众打土豪、分田地，发展地方武装，建立红色政权，巩固并扩大赣南革命根据地。
1929年5月至10月间，红四军乘福建军阀到广东参加粤桂战争造成闽西空虚的时机，先后两次进入闽西，歼灭当地军阀陈国辉旅和卢新铭旅。这时赣西南地区的革命武装力量也有很大发展。11月，罗炳辉（共产党员）率领国民党吉安靖卫大队举行起义，改编为红军。到1930年春，包括兴国、雩都、宁都、瑞金、赣县、安远、寻邬、信丰、南康等县的赣南根据地和包括龙岩、永定、上杭、武平、长汀、连城等县的闽西根据地初步形成。1930年3月，赣西南、闽西苏维埃政府相继成立，曾山、邓子恢分别担任政府主席。6月，根据中共中央指示，红四军和闽西的红十二军及赣西南的红六军合编为红军一路军，接着又改称红军第一军团，朱德任总指挥，毛泽东任政治委员和前委书记。后来，由赣西南地方武装组成的红二十军和红二十二军也划归红一军团建制。赣南、闽西根据地的形成和发展，为后来中央革命根据地的建立奠定了基础，并对各地区红军游击战争的发展和根据地的建设起到了鼓舞和示范的作用。
（三）从红四军党的“七大”到古田会议
在赣南、闽西创建新的割据区域的过程中，红四军党内和领导者之间在一些问题的认识上出现分歧。1929年6月22日，红四军前委在闽西龙岩伦明堂召开了红四军党的“七大”。会上围绕着要不要设立军委的问题发生争论。
在下井冈山之前，红四军是设军委的，毛泽东、陈毅、朱德都曾出任过军委书记。前已述及，红四军出击赣南后，于1929年2月初，前委在罗浮嶂召开会议，取消了军委，统由前委指挥。到“七大”前夕，围绕要不要再设军委的问题出现分歧。一种意见要求成立军委，认为“既名四军，就要有军委”，建立军委是完成党的组织系统；指责前委“管得太多”、“权力太集中”、“代替了群众组织”，是“书记专政”，有“家长制”的倾向。以毛泽东为代表的另一种意见认为，领导工作的重心还在军队，“军队指挥需要集中而敏捷”，由前委直接领导和指挥更有利于作战，不必设置重叠的机构，并批评要成立军委是“分权主义”。
在此背景下，前委召开了红四军党的“七大”，试图以会议形式解决红四军党内的争论问题。
“七大”由代理书记陈毅主持，只开了一天。争论的结果，毛泽东的意见占了上风，决定不设军委，而加强前委工作。但在选举红四军前委书记时，原由中共中央指定的前委书记毛泽东没有当选，陈毅当选。毛泽东只当选为前委委员。
“七大”后，毛泽东离开前委领导岗位，到闽西蛟洋、苏家坡、牛古扑等地辗转隐居读书，并指导地方工作，历时5个月之久。陈毅赴上海参加军事会议，并向中共中央汇报红四军工作，朱德代理前委书记。
“七大”后不久，前委就将大会决议及其他有关文件上报中共中央。中央收到红四军“七大”文件后，立即觉察到红四军领导层分歧的严重。
8月13日，中央政治局会议专门讨论红四军问题，决定由周恩来代表中央起草一封给红四军前委的指示信（即“8月来信”）。20日，指示信写成并发出。指示信对红四军党内争论的几个主要原则问题明确提出意见，明显赞同毛泽东的意见。
8月下旬，陈毅到达上海。他实事求是地向中央汇报了红四军两年来的革命斗争以及四军党的“七大”不同意见的争论情况。9月28日，中共中央发出给红四军前委的指示信（即“9月来信”）。这封信是陈毅按照中央政治局会议精神和周恩来、李立三的多次谈话要点代中央起草并经周恩来审定的。“9月来信”肯定了红四军建立以来的成绩和经验，阐述了红军和割据区域在中国革命中的地位和作用，明确提出毛泽东“应仍为前委书记”。
陈毅回到红四军以后，在上杭官庄传达了“9月来信”精神，朱德表示拥护中央指示。于是，陈毅致信在闽西养病的毛泽东，请他立即回四军主持前委工作。11月26日，毛泽东抵达长汀，就任前委书记。
12月28日，在福建上杭县古田召开了红四军党的“九大”。由于有“9月来信”的指导，毛泽东的正确领导以及朱德、陈毅等的协同努力，“九大”开得非常顺利和成功。大会改选了红四军前委，11人当选委员，毛泽东为前委书记。大会统一了思想，一致通过《中国共产党红军第四军第九次代表大会决议案》，即古田会议决议。决议中最重要的内容是第一部分“关于纠正党内的错误思想”，由毛泽东起草。其中规定，“中国的红军是一个执行革命的政治任务的武装集团”，必须绝对服从党的领导，批评了那种认为军事和政治是对立的单纯军事观点。决议再次提出红军必须和人民群众相结合，必须担负起打仗、筹款和做群众工作这三位一体的任务，批评了主张走州过府、流动游击、不愿做建设政权的艰苦工作的思想。决议尖锐地批评极端民主化和非组织观点，指出它的根源是小资产阶级的个人主义和自由散漫性，它的结果就是削弱以至完全毁灭党的战斗力，使党担负不起斗争的责任，由此造成革命的失败。决议案着重强调加强党的思想建设的重要性，分析了红四军党内各种非无产阶级思想的表现，要求用无产阶级思想来进行军队和党的建设。
古田会议决议是中国共产党和红军建设的纲领性文件，解决了在农村进行战争环境中如何将以农民为主要成分的革命军队建设成为无产阶级领导的新型人民军队这个根本性问题。这样的军队是中国过去历史上从来不曾有过的。古田会议决议不但在红四军实行了，后来各地红军都先后不等地照此来做。