当时，教授部主任王柏龄很器识叶剑英，对他的工作是满意的，但也逐渐觉察到叶剑英同廖仲恺、邓演达等国民党左派和一些共产党人过从甚密，“思想受到极大的变动”，日益激进。对此，他不无忧虑，并多次告诫叶剑英不要对政治太热心。叶剑英对王柏龄是否器识自己，并不介意，只是心里有数罢了。他看不惯王柏龄甘当蒋介石“奴才”的嘴脸，更不屑于王柏龄蝇营狗苟的政客作风。他一心按照孙中山、廖仲恺确定的办校方针办事，献身于教育事业。这一点给军校师生们留下了深刻的印象。当时凡是接触过叶剑英的人，无不称赞他在教授工作方面所付出的劳动和取得的成绩。聂荣臻回忆往事，曾评论说：叶剑英是军校主管军事教育的教授部副主任，在军校是很有威望的教官之一。黄埔军校的第一期学生、曾当过国民党军第七十三军军长的韩溶回首往事，不胜感慨。他说：“那时王柏龄抛头露面多，而在教授部里踏踏实实教学的还是副主任叶剑英，这方面实际由他负责，由他主持。”当然，王柏龄的“担心”并非没有根据。黄埔军校是国共合作办的学校，共产党的组织和人员在学校可以合法存在与进行活动。这使叶剑英有更多的机会接触共产党人。凡苏联顾问和中国共产党人到军校讲课，叶剑英是一定要去听的。他从中听到许多有关共产主义的真理，对共产党有了进一步认识，并萌发了去苏联学习的念头。在军校第一期学生中间，每个队都有共产党的小组，蒋先云等一批共产党员，在中共广东区委领导下，积极开展各种活动，宣传三民主义与共户主义，经常利用休假日组织进步同学去广州市参加各种报告会，扩大共产党的影响。叶剑英也常参加这些活动。同时，他还到广州国光书店购买了《共产主义ABC》等书籍，进行自修。不久，他正式向党组织提出了加入中国共产党的申请。中共组织接到叶剑英的申请后，派熊锐同他谈了一次话，谈后却一直没有回音。后来，他才得知个中缘由：当时，中共组织的大多数同志都认为可以吸收叶剑英入党，但有少数同志提出，叶剑英是蒋介石嫡系部队的高级军官，需要作较长时间的考验。事遂搁浅。叶剑英并没有因此而灰心，仍然继续学习马克思主义的书籍，从各方面积极创造条件，争取成为一名中国共产党党员。
四连平大捷
1924年5月，孙中山将各路粤军统一进行改编。原粤军第八旅改编为建国粤军第二师（师长张民达），叶剑英任二师参谋长。这样，叶剑英除了负责学校教学工作外，还要协助张民达主持二师训练。他时常奔走于军校和二师之间，工作十分忙碌。这期间，敌对势力也加紧了活动。叛军头目陈炯明盘踞在东江地区，时刻都梦想窜回广州。一方面，他进一步与北方军阀曹锟、吴佩孚勾结，阴谋南北联合，夹击广州；另一方面，他与林虎、叶举、洪兆麟密谋，策划围攻广州。
1924年7月，盘踞在粤北地区的林虎，在陈炯明指使下率部向南进犯。惠州叛军同时出动，逼近广州。在这种形势下，孙中山不得不推迟原定的北伐部署，调遣部队反击叛军的进犯。7月30日，孙中山电饬集中于石滩的刘震寰桂军，配合滇军曾万钟师和4个独立旅向惠州发起进攻，并电令湘军一部南下翁源，出老隆，进击林虎部；同时命令建国粤军张民达师，袭击林虎部所属的李易标第七军，以配合桂、滇军围攻惠州。
张民达接到命令后，向廖仲恺提出，请叶剑英回师参战。叶剑英于是迅速赶回二师。
这时，二师经过改编，下辖两个旅。第三旅旅长莫雄，第四旅旅长暂缺，由张民达自兼。二师的任务是，打退叛军李易标部一个军的进攻，并攻占连平据点。
叶剑英弄清敌军态势和二师的作战任务后，随即与旅、团长们商讨进军路线。根据侦察得来的情报，他提出采取奔袭的方法，翻越艰险的青云山，北上英德、翁源，再折而向东，绕到敌侧后袭击敌人。张民达赞同这一作战方案。
第二师在张民达、叶剑英率领下于8月初集结于花县，接着乘火车抵达英德、河头。然后轻装前进，经大镇、翁源、龙仙、南浦、陂头一线，经过7天艰苦行军，23日晚进抵桃花坪之水浸蛛。部队没有停留，在夜幕的掩护下，沿着崎岖的山路急进，直抵连平城郊。此时，守敌毫无察觉，城门紧闭，犹在睡梦中。24日拂晓，张民达、叶剑英率部冒雨向连平城发起进攻。先由炮兵向城墙防御工事进行炮击，接着，步兵向城内发起冲击。敌人从睡梦中惊醒，慌忙还击，乱成一团。至天大亮时，守城叛军大部被俘，李易标率残部逃往江西。
连平大捷，震撼叛军。惠州叛军头目杨坤如等闻讯，龟缩驻地，不敢再出兵。这样，陈炯明重返广州的美梦又一次破灭。
战后，二师奉命返回广州驻防。
五香洲独立营
在此期间，孙中山和廖仲恺商定，为了配合黄埔军校的教学，壮大革命军骨干力量，在粤军第二师成立一个独立营，培训一批下层军士。建立独立营，需要一个既有军事理论知识又有实战经验，且能独立完成训练任务的人才。廖仲恺又想到了叶剑英，确定要他出任香山县（今中山县）县长兼独立营营长。
张民达对独立营的创建给予大力支持和帮助。叶剑英经他同意后，抽调师部的参谋廖鸣鸥、练惕生、邓良等人组成设营小队，首先办好三件事：一是选定建营的具体地点；二是从工农群众中招募兵员；三是制定训练计划。
叶剑英带领设营小队，赴香山县调查，最后选定靠孙中山家乡翠亨村较近的香洲作为营地。香洲（今珠海市）是香山县最南端、濒临南海之滨的一个小镇。这里三面环水，背靠狮山，群众基础好，是练兵习武的好地方。
营地选定以后，他们立即开始组织人力，修建简易营房。在招募兵员问题上，叶剑英一改旧军队“抽丁拉佚”的办法，派人到香山县各地群众中宣传革命军的宗旨，动员农村青年参军。他还亲自出马，率领人员到阳江、电白等粤西一带的贫困地区，招募了几百名新兵。不久，全营招到900余名士兵，分编8个连。由练惕生、廖鸣鸥、陈雨荣、邓良兼任教官，并请二师师部参议李公剑任政治教官。8个连长分别由高永卿、王其焕、周绍武、蔡公武、杨志武、曾繁凯、张淑民、曾毓芳担任。这些教官和连长，都是经过严格挑选的优秀革命军官，阵容很是整齐。
叶剑英和教官们一起，借鉴黄埔军校的一些做法，确定独立营实行军事训练与政治训练并重的原则，强调“军以党化，党以军成”，要求革命军人服从革命政党，贯彻革命党的主张和政策，不闹个人意气，不耍军阀作风，不坑害老百姓，努力使自己成为革命军的基层骨干。
叶剑英在创建独立营期间，还时常回到黄埔军校讲课，或到二师指导训练。他身兼数职，日夜奔忙。
后来，独立营与驻在前山的二师缉私营合并，扩大为新编团。叶剑英于1925年5月26日被任命为建国粤军第二师新编团团长，廖鸣鸥、练惕生任副团长，邓良等分别担任各营营长。新编团开始了更加严格的军事训练。
在军事训练中，叶剑英经常以身作则，讲解示范，手把手传授军事技术，和士兵一起摔打。他还十分重视士兵的政治教育，经常到课堂发表政治演讲。他那生动活泼的言谈，精辟独到的见解，大大启发了士兵的政治觉悟，使他们进一步懂得了“非革命不足以图存”的道理。
香山是广东农民运动发展比较早的地区之一。廖仲恺和谭平山等曾多次去香山参加农民代表会议，发动群众组织农民协会。叶剑英根据廖仲恺的训示，组织独立营部分官兵帮助香洲地区开展农民运动。他经常到乡村访问，了解农民疾苦。他派出陈雨荣、曾繁凯等军官到夏美村与贫农甘金星一起组织香洲地区的农民协会，并参加东坑一带的农会活动。其后又帮助前山、湾仔等地相继建立了农民协会。不久，共产党特派员梁桂华到香山发动上下栅和九区农民，组织农民协会，举行有万余人参加的农民代表会议。廖仲恺和彭湃等特意赶来参加盛会，并在大会上发表了热情洋溢的演说。
叶剑英平时很注重改善部队与驻地政府和民众的关系，严肃军纪，并经常组织军官和士兵到学校和农村、码头宣传孙中山的革命主张，宣传国共合作后的新形势，帮助贫苦农民、渔民做事。当地一些老人至今回忆起来，仍赞不绝口：“当年叶参谋长在香洲的队伍不打人，不骂人，不拉佚，不勒索，纪律严明，买卖公平。那样好的军队在当时是很少见的。”
六参与平定商团叛乱
1924年7月，陈炯明指使林虎进攻广州的计划失败后，并未放弃做“粤中王”的企图。他与广州大买办头子陈廉伯勾结，阴谋再一次推翻广东革命政权。陈廉伯联合广州及附近县镇98个商团成立“联防总部”，在各地组织武装，向外商购买大批枪支弹药运往广州。这一情况被孙中山发现。孙中山于是下令扣留了他们的一部分枪械。陈廉伯以此为借口，出动2000多名团丁包围大元帅府，煽动罢市，明目张胆地要颠覆孙中山的革命政权，建立商人政府。
在这种紧迫的形势下，廖仲恺于8月23日以广东省长名义下令通缉陈廉伯，并电请蒋介石速派学生军前来广州市维持治安，同时命叶剑英从香洲迅速返回二师，协助张民达，率部队准备对付商团叛乱。
局势越来越严重。广州盛传：陈炯明、林虎、洪兆麟等反革命军队准备从石龙、东莞进袭虎门，与商团会师。10月10日这一天，广州群众为纪念武昌起义13周年，在观音山举行盛大集会，警告反动商团。担任中共广东区委委员长兼宣传部长的周恩来，出席了大会，并以广东民族解放协会代表身份发表演讲。群众大会结束后，即开始示威游行。不料，反动商团军在太平南路突然向游行队伍开枪，打死20余人，打伤100余人。商团还到处张贴布告，公开要求孙中山下野，欢迎陈炯明回省主持政事。广大工农群众对此义愤填膺，坚决支持孙中山，要求与商团决一死战。叶剑英和二师官兵，黄埔军校革命师生眼看无辜群众受害，心急如焚，一致要求对商团发起反击。
孙中山在中国共产党和工农群众支持下，成立了镇压商团的革命委员会，自任会长，廖仲恺、汪精卫、蒋介石、许崇智、陈友仁和谭平山为全权委员。同时成立有周恩来、杨匏安参加的临时军事指挥部，统一指挥平叛。
10月15日拂晓，孙中山令革命军向商团发起攻击。陈炯明为配合商团的行动，下令叛军进攻虎门。商团军有恃无恐，在西关依托街坊堡垒作为防御阵地，在滇军的暗中支持下，向政府军进行还击，顽强固守。战斗有旷日持久之势。军事指挥部决心以非常手段速战速决，下令各部调炮兵集中火力向西关一带猛烈轰击，同时命步兵迂回至敌人侧后夹击。张民达、叶剑英指挥二师部队担任迂回任务，他们沿观音山麓西南角的德泥路、盘福路、丰宁路至西瓜园一线向西关发起攻击；并派出小分队从横街小巷用竹木梯爬上屋顶越入西关，猛击商团军之背。友邻部队还采取火攻战术，使西关街坊堡垒变成一片火海。商团军的防御阵地被突破以后，纷纷弃械逃窜。陈廉伯等见势不妙，逃至沙面租界英国领事馆，请求避难。至此，商团叛乱被彻底平息。
平定商团之后，叶剑英回到香洲，不时还到黄埔军校讲课，教授兵器学等课程。没过多久，周恩来调黄埔军校任政治部主任。从此，两个出身不同、经历各异的年轻革命者在国共合作的旗帜下走到了一起。周恩来到军校后，立即投入政治部组织建设和思想建设，派优秀的毕业生任连党代表，向教职员和学生灌输革命精神，教育他们不贪财，不怕牺牲，精诚团结，救国救民，实现孙中山提出的武力与民众相结合的建军宗旨，使军校的政治工作日趋活跃，卓有成效。叶剑英在和周恩来的首次共事中，虽然接触不多，但他从周恩来的举止言谈中，看到了共产党人的磊落胸怀和远大抱负，从而由衷地产生了敬佩之情。