中共代表团在南岳，生活节奏很紧张，食宿条件比较差。叶剑英和大家一样，艰苦朴素，坚强乐观，朝气蓬勃地进行工作。叶剑英襟怀坦白，对身边的国民党同事以诚相待。这对国民党人员是极好的教育，使他们从共产党人的工作和生活中看到了一个崭新的世界，心向往之。有些人主动靠拢八路军教官，谈心交友，深感10年内战导致国难家破、外寇入侵，盼望着从此携手重建新国家！学员吴众等拜访叶剑英，表示结业后要效力战场，同共产党游击队并肩作战。叶剑英热情地表示欢迎和支持。吴众深受教益，更加追求进步，后来和石坚、吴澎、邝定家等毅然参加了新四军一支队。吴众回忆说：“我曾两次前往中共代表团驻地访问。第一次去访问，正好是午睡的时候，叶副教育长亲切接待我们。我们告诉他，将来到了前方，希望和八路军、新四军的游击队取得联系，他表示欢迎。我毕业后想到广州去，那里有八路军的游击队，希望介绍与游击队取得联系，他也同意了。第二次我们去拿介绍信，那天他不在，正好代表团全体人员会餐，他们留我们三人吃了饭。由吴奚如亲笔写了一封信给广东曲江十八集团军办事处主任云广英。”
训练班住在山区，生活十分枯燥、单调。叶剑英带头活跃文化生活，通过开展歌咏演出、读书等文娱活动，提高了大家的文化情趣，并十分注重借此搞好同友军的关系，扩大共产党、八路军的影响。训练班成立后不久，国民政府军事委员会政治部第三厅所属的抗敌演出队第八队到南岳演出。演出队到南岳的第二天，训练班在南岳镇上唯一的“大饭店”南濠酒家举行欢迎宴会。队员们见了叶剑英，都把他围起来，问这问那，争着和他在一桌吃饭，边吃边谈。宴会快结束时，国民党的几个官员突然起哄，要演出队的女队员唱歌。由于他们态度不严肃，八队的队员产生了反感，会场上的气氛顿时变得紧张起来。这时，叶剑英从容不迫地站起来，说：“我来唱一个。”说着，他清了清嗓子，把一只脚踩在桌边的一条小凳子上，声音宏亮地唱起了陕北小调《开荒》：“开荒呀！开荒！前方的战士要军粮。织布呀！织布！前方的战士要衣服。大嫂嫂，老爹爹，丈夫娃娃不要惦记他。我们努力耕织，不少他们穿吃，打败鬼子好回家！”一曲终了，大家非常高兴，报以热烈的掌声。这时叶剑英提议：“八队同志也唱一个！”八队照例由女队员站在前排，先后齐唱了《红樱枪》、《大刀进行曲》等歌曲。宴会最后在活跃、友好的气氛中结束。叶剑英在南岳，一直与八队保持着联系，看他们的演出，给以亲切的关怀。
四动员南岳佛道教界抗日救国
周恩来虽然离开了湖南，仍十分关心训练班的工作。4月中旬，他特地赶到南岳，以国民政府军委会政治部副部长的身份，检查游干班的工作，并应大家的请求给学员们作了题为《中日战争之政略与战略问题》的长篇报告，引起了强烈的反响。周恩来、叶剑英在南岳还广泛接触各界爱国人士，引导和支持他们采取各自的方式参加抗日救亡。叶剑英到半山亭寺庙进行宣传讲话，题写了抗日诗词，还陪同周恩来一道会见了祝圣寺法师暮笳、演文、巨赞等人，和他们讨论抗日救亡工作。周恩来在暮笳的纪念册上亲笔题词：“上马杀贼，下马学佛。”强烈地触动了南岳宗教界。后来，巨赞法师在田汉引领下来会见叶剑英，洽谈甚欢。叶剑英联系佛教哲理，宣传团结抗战的道理，使巨赞甚为感动。巨赞同暮笳法师率南岳僧侣200多人，发起“南岳佛教救国协会”。叶剑英知道后建议改称“南岳佛道教救难协会”，以体现“佛教救苦救难”宗旨，团结更多的和尚、尼姑和道教徒一起，从事抗日救亡活动。5月7日，在该协会成立大会上，叶剑英作了题为《普渡众生，要向艰难的现实敲门》的讲演。他说，当我国家民族危难之时，奉劝各位爱国僧侣不要再独坐禅房祈祷、祝福，逃避艰苦的现实而想象将来，那是空洞的无内容的幻想。在亡国灭种的大祸已临到我们的头上时，要行动起来，走出禅房，参加抗日救亡运动，团结全国佛道教徒成为全民族的抗战的一部分。讲话结束时，他引用苏联作家高尔基的一句名言：“站在革命的火焰面前，要自己首先跳进去，才能显现出伟大灵魂的光辉。”宗教界许多爱国人士听了演讲，备受鼓舞，欣然表示要奋身救国。巨赞、暮笳法师组织了一批青年和尚，成立流动工作团和宣传队、救护队，在湘潭、衡山、衡阳等地积极宣传抗日，抢救被敌机炸伤的难民。《救亡日报》刊登了叶剑英的这篇讲演，并发表专文，声援和支持宗教界组织起来抗日救亡。巨赞法师还创办了名为《狮子吼》的月刊，宣传抗战。
五“到敌人后方去，把鬼子赶出去”
第一期学员毕业之前，叶剑英组织指挥了一次大规模军事演习。演习中，学员七队充当“假设敌”。这次演习，由于准备充分，动作逼真，接近实战，学员们一致感到收获很大。国民党的一些官员也对演习作了肯定的评价。国民政府军事委员会军训部专员程兆熊在对游干班的《视察报告书》中写道：“学员曾向余言及游击战术一课之实地演习情形，谓绝非纸上谈兵之可比，该班训练切实，当可想见。”
5月15日，南岳游干班第一期学员举行盛大毕业典礼。当叶剑英讲完话带头高呼“抗战到底！”“打倒日本帝国主义！”“中华民族解放万岁！”的口号时，会场上群起呼应，激昂的呐喊声震撼着南岳群山，激励着抗日将士的斗志。许多人依依不舍，拿着自己的笔记本、纪念册，纷纷请求叶副教育长题词留念。叶剑英根据不同对象，分别在他们的笔记本、纪念册上题写了“到敌人后方去，把鬼子赶出去”，“路是人走出来的”，“要作大事，不作大官”等寓意深刻的语句，并签上自己的姓名，以资勉励。学员程鲁后晋升为白崇禧部下的少将纵队司令，1948年感念当年叶剑英的教诲，毅然弃旧图新，率部起义。新中国成立后，他当选为衡阳市政协委员。回首当年，他感慨地说：那时叶副教育长在我的笔记本上写’了八个字：“要作大事，不做大官”，落款“恭录总理遗言，以赠程鲁同学”。当时我还不大理解，以为只有作大官才能作大事，后来看到国民党大势已去，大官也做不成，又想起叶的题词，感到“反戈一击”才叫大事。国民党汕头驻军某部少校营长李平，学习期间，成为八路军教官的“一个真挚的朋友”。他临毕业向叶剑英等人辞行时，坚定地说：“我一定把这儿所学到的知识，全部运用到实际的战争里！我将用新的战术，与敌人决一雌雄！”这位黄埔出身的青年军官，在共产党、八路军的影响下，成为“一个少壮、勇猛而且进步的军人”，不久，在汕头与日寇血战中以身殉国，实践了自己的诺言。
叶剑英率领共产党人员参加举办南岳游击干部训练班，取得了很大成功，发挥了重要的作用。周恩来后来给中央的报告中写道：“中央军最重要，但最难接近，最难工作。”“南岳训练班较珞珈山（训练班）更有成绩。这几乎是我们接近中央军官最好的机会，只可惜人去少了。因为人去的多，不仅可以扩大我们影响，而且可以培养我们自己（的）知名干部。”事实的确如此。通过办班，不仅接近了大批国民党军的中高级军官，而且向他们宣传了毛泽东《论持久战》思想和关于游击战的战略战术，宣传了共产党的抗日路线、方针、政策，使学员认识了游击战的重大意义，并且实际演练了游击战的战法，增加了持久抗战的必胜信心。不少学员毕业以后，运用游击战术，活跃在各地抗日战场上，配合八路军、新四军作战，打了不少胜仗。更有些人效法共产党的办法，直接或间接地支持敌后游击队，开展游击战争，打击敌人。在蒋介石的反共高潮中，有些人写信或想办法派人与“游干班”的中共教官联系，有的还到重庆八路军办事处，寻找曾在“南岳游十班”当过教官的同志，送信送地图。后来，由于国民党特务活动猖獗，他们不能直接去重庆八路军办事处，就把地图、情报包好，写上名字，寄送《新华日报》门市部。日寇投降后，重庆《新华日报》社经常收到这批学员的来信或寄来的东西。
六团结桂系抗战
叶剑英作为南方局的领导成员之一，在主持南岳游干班期间，十分关心湖南地下党和八路军办事处的工作，及时给予指导和帮助。他乘坐一辆出爱国人士胡文虎、胡文豹兄弟赠送的有永安堂万金油商标的特制汽车，时常来往于南岳、衡阳之间，兼顾地方党的工作，积极开展统战活动。他和秦邦宪去邵阳八路军力、事处机关，参加了中共湖南省第一次党代表会议，在会上传达了党的六届六中全会精神，并对开展抗日游击战争和做好党的地下工作了指示。叶剑英利用他的公开合法身份，把衡山县地下党介绍的一批青年学生吸收到游干班第七队学习，其中许多人后来成为革命军人和优秀的党的干部。他还多次接见南岳地区的抗日报刊记者，谈抗战问题，宣传八路军的战略战术，强调游击战是弱国战胜强国的正确途径。当田汉率领抗敌救亡京剧团巡回演出到南岳时，叶剑英亲自带他们在衡山师古桥向民众演出，激发乡民和士兵抗日保国的民族气概。演出之后，叶剑英登台向观众挥？致意，并发表了激动人心的讲话，动员群众团结起来，把日本鬼子赶出去！观众听了叶剑英的讲话，群情振奋。
演出后，叶剑英和田汉去师古桥一所小学校访问，同学校一位姓邝的女教师亲切交谈，了解她在工作上的困难与要求，高度评价了教师们在全民抗战中的作用。这位女教师深为感动，拿出纪念册，请叶剑英题词。叶剑英示意她请作家田汉题诗。田汉想到德国著名军事家赫尔穆斯·卡尔·毛奇的事，挥笔写下了一首七绝：“风云叱咤老毛奇，却把奇功属教师，师古桥边嘶战马，将军亲作教师时。”这首诗既肯定了教师的作用，又描绘了屡建“奇功”的叶剑英将军的高大形象。它不胫而走，很快在群众中流传开来。
这期间，衡阳八路军办事处举办党训班，叶剑英给予了具体的指导，并从南岳训练班派出，八路军教官给湖南、两广来的50多名党员干部讲课。叶剑英不论白天黑夜，对于凡是来访的人，都热情接待，尤其对地下党的同志，他更是亲切交谈，具体指点。地下党员们都感到很受教育。
叶剑英在南岳训练班期间，还利用各种机会来往于桂林、重庆之间，进行统战工作。
当时的广西，已成为中国西南抗日大后方。桂林是国民党桂系集团势力的中心，又是共产党与内地及海外联络的一个重要的交通枢纽。因此，团结桂系坚持抗战，有着十分重要的意义。据沈毅然、何启君等回忆，叶剑英在党中央、南方局领导下，以公开的身份，多次到桂林做了多方面的工作。他到桂林时，经常住在黄琪翔为他提供的一处住处。这里实际上是八路军办事处的一个秘密联络点。他与李克农等一起研究具体工作部署，领导办事处人员着重做好桂系的统战工作和广大后方军民的抗日宣传工作。
1939年5月28日，在桂林各界团体联合举办的第18次时事讲座大会上，叶剑英发表了《积小胜为大胜》的演说。听众非常踊跃，到会有1000多人。叶剑英在演讲中，精辟地分析了抗战进入第二期以后的时局，指出我们虽然在战略方面还是以持久来对付速决，可是在战术上则可运用“用全力求小胜”、“以大力打小仗”的办法，消耗敌人的力量，增加自己准备反攻的力量。一定不要忽视小胜，而要争取小胜，“积小胜为大胜”。他说，我们在战略上的防御和战术上的运用，一切都是为着进攻，争取最后胜利的到来。这个时期，桂林出版的《救亡日报》、《扫荡报》，及在桂林发行的《新华日报》上，曾先后发表了叶剑英的《二期抗战与游击战》、《正规军当前的任务》、《在敌后的两年》、《游击战线上目前军事问题》等演讲和文章，为扫清在国统区曾流行的“亡国论”，坚持团结抗战，坚持持久战，增强抗战最后必胜的信念，起到了很好的作用。
为了团结桂系坚持抗战，反击国民党顽固势力阴谋反共投降的逆流，叶剑英协助周恩来对桂系首领李宗仁、白崇禧等人及桂系内民主人士，做了大量的统战工作。他还先后应邀到广西学生军第二团、国民党集团军军官团向官兵们作了《现阶段的游击战与正规战》、《国际形势与抗战形势》的演讲，受到欢迎。5月21日，叶剑英应广西省主席黄旭初和地方建设干部学校教育长杨东莼的邀请，在白崇禧的陪同下，骑马到桂林东郊学校，向全校师生作了题为《当前战局之特点》的演说。他还接受进步教授等的邀请，为广西大学全体师生作过形势报告。
当时在桂林，国民党当局也曾酝酿与共产党人合作举办南岳式的游击干部训练班。《新华日报》记者以《游击干部的“熔炉”》为题报道说：“游击干部训练班在中国抗战史上是新的一页。在桂林计划如何开办的时候，只要有叶剑英先生来当副教育长，那就好办。他是内行。”
叶剑英在南岳和桂林期间，还同后来成为越南民主共和国主席的胡志明有过一段亲密交往，建立了深厚的友谊。当年胡志明从延安到重庆，又到桂林，在桂林八路军办事处救亡室工作很长一段时间。尔后曾以“八路军桂林办事处通讯班长”的身份到南岳训练班学习和工作。叶剑英回忆说：“我在南岳训练班时，胡志明就在我那里，当挂名的秘书，大家叫他胡光，后来回国了。建国后有一年，他来中国，同毛主席、周总理谈话，说：‘我们今年国庆，想请叶剑英同志全家去。他是我的上司’。毛主席说：‘志明同志，您今天还讲这个话，您已经做越南的领袖了。好，就让他们全家去吧！’后来，我全家到越南去了一趟。”
1939年上半年，叶剑英从桂林去贵阳，带领贵阳交通站负责人之一袁超俊去国民党贵州省党部，找其书记黄宇人交涉营救1938年2月被国民党反动派逮捕的中共贵州省工委黄大陆、李策、王轼、严金生等同志。
1939年6月初，中共中央调叶剑英去重庆，协助周恩来主持南方局的工作。南岳训练班的有关工作由李涛负责。由于蒋介石在抗战中蓄谋掀起反共高潮，训练班办到第三期时，中共方面的教官和工作人员便全部撤出了。
叶剑英率中共代表团参加举办的南岳游击干部训练班，尽管时间不长，但在国共合作的抗日战争史上，却写下了十分重要的一页。