马歇尔到陆军部后不久，就着手整顿军队。第一步是查阅他手下高级军官的档案，记下了一大批需要退役的人员。那倒不是因为他们不称职，而是因为他们年事已高，都是在军事思想上死抱第一次世界大战经验不放的老战士。现在到了该把他们清理出去，把比较年轻和更具清新思想的人吸引进来的时候了。他向总统递交了一份建议立即予以退休的将军名单，当此项建议获批准时，他表示他本人在清理工作完成后辞职。他毕竟也是个老战士了，是被他辞退的多数人的同龄人。他明确表示，到了61岁这个年纪，该是让路给更具有才识、更年轻的班子，以应付美国当前面临的严峻挑战的时候了。
总统派人来找马歇尔，告诉他总统根本不考虑马歇尔的辞职问题。总统认为，他的辞意并非出于真心，只有愚蠢的政客才老是辞职，高级军官是不会这样的。马歇尔对罗斯福总统认为他要求辞职是在装样子的想法感到不快，坚决地表示自己当真要辞，甚至提出了一个适合接替他职位的军官。此后，马歇尔收到白宫一封口气更加坚定的回信，告诉他再别提辞职的事，即使再提也不会同意。
在此期间，他需要一些精力充沛、富有才华和比较年轻的军官充当他的助手或担任部队指挥官，协助他处理那些棘手的军事问题，找遍全国陆军兵营，这样的人的确不多。然而，他的小黑皮本上却记着陆军中相当一部分优秀军官的名字。此时，他想起了两个人，一个是艾森豪威尔，另一个是乔治·巴顿。
巴顿少将在一次演习中指挥第2装甲师，他指挥有方，坚决果断，而且大胆自信，给马歇尔留下了深刻印象。早在第一次世界大战期间，马歇尔就认识了巴顿，当时，巴顿在西线接管第一批坦克。他性情急躁，大胆泼辣，全然与马歇尔的风格不同。巴顿喜欢全副武装，炫耀自己。然而，马歇尔不仅喜欢他，而且钦佩他。他在小黑皮本上乔治·巴顿的名字后面写上：“乔治能带领部队赴汤蹈火，但要用一根绳子紧紧套住他的脖子。一有装甲部队就交给他指挥。”
马歇尔把提升艾森豪威尔和巴顿的推荐书送了上去，并很快得到批准。艾森豪威尔被任命为陆军参谋部作战计划部副部长，巴顿则在装甲部队的指挥岗位上进一步得到提升。
珍珠港事件后大约一星期，艾森豪威尔就奉命到马歇尔参谋长办公室报到。马歇尔知道艾森豪威尔在菲律宾任过职，当过麦克阿瑟的副官，了解远东情况。现在，他要这位新任副部长协助他解决麦克阿瑟正遇到的难题。参谋长简要地给艾森豪威尔讲了菲律宾群岛日趋绝望的最新形势，然后问他：“我们应该采取什么样的作战方针？”艾森豪威尔要求给他一点时间来仔细思考一下。马歇尔叫他过几个小时后再来。
艾森豪威尔回来时显得很冷静。他向参谋长汇报了自己的想法：不管那里的情况怎样，应尽一切努力援助麦克阿瑟将军，但这要突破日本人的严密封锁才行。他怀疑，那里的部队恐怕坚持不了多久。最后他说：“我们的基地应该设在澳大利亚。”他的意思是最终放弃菲律宾。但马歇尔却不想轻易放弃那里，希望通过尽力援助能够坚守菲律宾要塞，这也正是麦克阿瑟和罗斯福总统的一致想法。
在以后的三个月中，马歇尔将军使用信任、现金、指令以及广泛授权等手段，竭尽全力组织援助，但能够突破日本人的封锁线而送到麦克阿瑟手上的援助物资却很有限。管日本人在菲律宾群岛的登陆战中不断推进，但麦克阿瑟表现得勇敢顽强，在补给严重不足和形势危急的情况下仍坚持奋战。
随着菲律宾群岛局势的不断恶化，马歇尔转而催促麦克阿瑟放弃坚守，撤到澳大利亚。尽管麦克阿瑟不肯这么做，仍坚决表示将同守备部队共存亡，马歇尔不愿看到这种结果。不管麦克阿瑟多么傲慢自负和令人讨厌，他毕竟是一位杰出的军事指挥官，而大平洋地区未来的作战需要由这样的人来指挥。如果他阵亡或被俘，失去他实在可惜，盟军防御也将受到灾难性的打击，日本人将在心理上获得一个胜利。在马歇尔将军的再三督促下，麦克阿瑟突出包围，撤往澳大利亚。
鉴于麦克阿瑟的勇敢表现，马歇尔将军努力说服总统提升他为四星上将，给这位远东战区司令官颁发荣誉勋章。马歇尔亲自起草嘉奖令，并积极向总统建议，在未来战争中让麦克阿瑟出任太平洋战区盟军司令。
马歇尔为麦克阿瑟作了种种努力，却没能从他本人嘴里得到一句感激的话。“麦克阿瑟以为我们出卖了他，”马歇尔后来说，“其实根本不是那么回事儿。情况使这件事非常非常难办。”
在菲律宾处于困境的同时，夏威夷也遭到日本人的攻击，尽管这两次灾难的损失不如珍珠港那么沉重，但马歇尔认为，这是整个战争期间他所经受的最惨痛的打击。当时和他谈过话的人都没有看到他表现出惊慌失措的样子。
马歇尔也许回想起潘兴将军在第一次世界大战的艰难岁月中讲过的一句话：“我决不允许自己表现出忧虑沮丧的样子，以免使我的参谋人员丧失信心。”然而，他难以对马歇尔夫人隐瞒自己的情绪。有天晚上，凯瑟琳注意到马歇尔的脸色极为阴郁，以前她只是在他心情沮丧时才看到过这种表情。孤独沉默的马歇尔没有提到那些悲剧，也不想交谈，而是默默地走进了自己的卧室。凯瑟琳知道这是他心情沉重的表现，可又想不出说点什么帮助他。马歇尔夫人后来写道：“我走过他的门口，进了自己的卧室。”
如果说马歇尔以及同他一起在华盛顿共事的那些人尚能自持的话，这个国家的大多数人却做不到这一点。整个西海岸处于一片恐惧和流言的骚动之中。有报告说日本人已接近西海岸，无知的揣测演化成了想入非非。总统和陆军部接到了潮水般涌来的请求，呼吁提供更多的军队和防空火炮保卫太平洋沿岸城市，马歇尔深感局势更为繁杂和紧迫，他必须投入到更为繁忙而有效的工作之中：为麦克阿瑟指挥的远东部队增派援军；向美国西海岸调动部队；征募短缺的人手和设备；协调军种之间的关系以及盟国之间的军事事务……
实际上，陆军与海军的关系正面临着考验。由于海军参谋长斯塔克上将对珍珠港事件负有责任而受到处分，被降为美国海军派驻英国皇家海军的联络官，马歇尔与斯塔克三年愉快合作的局面宣告结束。接替斯塔克职位的是一位更难对付的欧尼·金海军上将。
欧尼·金的性格和习惯，与马歇尔将军迥然不同。尽管“他们都喜欢漂亮女人，但情况有所不同，马歇尔一见到漂亮女人便觉得心神爽快，而金一看到富有诱惑力的女人就要动手。金婚后生有六女一子，他的妻子玛蒂在妇女中常被称作是‘长期受苦’的配偶之一。他不仅追求女色，还是个酒鬼……”但他的确很有毅力，以后竟然改掉了自己的弱点。在技术方面，金上将是位难得的精通全面航海技术的优秀军人。在军事思想方面，他有自己的一套作战思想：“战士只靠躲避，只靠抵挡敌人的攻击打不了胜仗”，“胜利要靠进攻，不断进攻，为了能够不断地进攻，即使挨几下狠揍也在所不惜。”
像多数海军官员一样，金一心想为恢复海军的威信而有所作为，渴望把仗打到日本去，来洗雪珍珠港的耻辱。然而，美国和它的盟国目前准备把主要力量集中在欧洲。因此，马歇尔就必须说服这位同事心甘情愿地同陆军合作，以顾全大局，同自己一起来制订目前打败德国和意大利而不是日本所需的复杂计划。
其实，金海军上将倒主动登门拜访了。他决定去陆军部向马歇尔将军作一番自我介绍，并进行一次非正式交谈。他忽略了事先通知马歇尔他要去，而以为一走进马歇尔的办公楼，副官就会认出他并立即禀报。他不知道，陆军部的工作方式和海军部大不相同。
“我的接待室在我办公室过道对面，”马歇尔后来说，“由一位年轻妇女负责。我特意不在那里放一个身着军服的副官，因为我要同许多文职人员打交道，……因为每天有许多国会议员来访，我认为最好不要用铁板着脸的军人做接待工作。……结果，金上将前来看我，我并不知道，所以就在接待室里由这位妇女接待了。是呀，他是海军首脑，你到海军部他的办公室时，会有一位海军副官前来欢迎你，彬彬有礼地引你去见他。事情做的很合乎礼节，也很有效率。可是，这里却由一位年轻妇女来接待海军上将，而且没让他马上见到我。”
当时，马歇尔正在门厅对面同一位怒气冲冲的澳大利亚部长谈话。谈话结束后，他才得知金海军上将曾经来过，等着见他，后来愤然离去了。马歇尔毫不犹豫，抓起帽子，急忙赶到海军部金的办公室。没等对方表示欢迎，马歇尔就开始向金解释为什么让他久等。他接着说：“将军，我认为这很重要。要是在战争一开始，您我就争吵起来，那么不知公众会怎样来议论我们呢？他们连一分钟也容忍不了。我们不能相互斗气。我们可得想法搞好关系。”
金绷着脸一声不吭，长时间盯着他，然后突然放松下来，“有劳您大驾光临，您真是宽宏大量了。即使我们合不来，也可以互相走走嘛。”他停了一下。接着说：“我们能合得来。”
然而，后来还是出现了几次“非常恶劣的斗气。”1942年春，马歇尔说服他的海军同僚，同意成立参谋长联席会议，讨论涉及有关两个军种的问题和制定联合作战计划。联席会议由四人组成，其中包括马歇尔和金。第三名成员是海军的威廉·莱希海军上将，他不是金的朋友，同罗斯福总统交情很深，而且非常钦佩马歇尔。第四位成员是马歇尔的副手——陆军航空兵的首脑阿诺德将军。几个回合的讨论之后，金表示他愿意服从美、英两国确定的战略重点——集中力量于欧洲首先打败纳粹，但有一个附加条件，即海军必须有所行动以确保及早打垮德、意、日法西斯。马歇尔真正担心的并不是美国军界有人扯皮，而是盟国会不会从中作梗。事实证明，他的担心不是没有道理。
1941年12月，美、英两国首脑在华盛顿首次举行战时会议。会议期间，马歇尔就发现英国人态度犹豫，他们似乎并不希望盟军过早地在法国登陆。1942年6月，马歇尔飞往伦敦，同英国人商谈未来的作战计划。当英国首相丘吉尔听完马歇尔介绍1942年进攻欧洲的“铁锤行动”计划后，微笑着向马歇尔举起酒杯说：“我完全同意这一计划。”马歇尔此行似乎大功告成了。其实，英国人并没有认真听取他的计划，他们另有打算，而马歇尔竟信以为真了。
当马歇尔高兴地回到华盛顿，着手制订制造登陆舰艇和训练舰艇操作人员的计划时，英国人的注意力却集中在中东地区。英国军队在中东西部沙漠被隆美尔指挥下的纳粹机械化兵团打得一路败北，退回埃及，开罗和苏伊士运河受到了严重威胁。在遭到如此挫败的情况下，谁还会考虑渡海登陆作战呢？此后不久，丘吉尔再次来到华盛顿。英国人反复强调中东地区的重要性和那里局势的严重性，他们坚持认为，当前应集中力量进攻法属北非，而不是渡海登陆作战。
马歇尔大吃一惊。以后，他在同盟国打交道方面就更为老练得多了。但这一次，他的确被英国人随随便便背信弃义的行为大为激怒。他进行了反击。他重新改写了艾森豪威尔起草过的一份备忘录，并在金海军上将和陆军部长亨利·史汀生的支持下，于1942年7月10日给总统呈送了如下信件：
如果美国不能坚定不移地全力执行“博勒罗”计划（横渡英吉利海峡集结兵力计划），转而到任何其他地方作战的话，我们坚决主张转向太平洋，给日本以毁灭性打击。换言之，除空袭外，对德国采取防御态势，而将全力转向太平洋。
这正是金海军上将希望马歇尔讲的话。但总统猜得对，马歇尔一百八十度的大转弯不过是出于意外的斗气。总统本人有时也难免意气用事，但他不允许他的部下任性使气。罗斯福总统清楚不过地明确表示，他要美国部队和英国盟友并肩战斗，并希望能在大选前实现。
5军政之间
美国军队历来的传统是军官和政治完全分离，军官在政治争论中不站在任何一方，不竞选公职，经常不投票。马歇尔和多数职业军官一样，对政治抱有一种冷漠和鄙视的态度。但他逐渐发现，军事和政治常常难以分开，当他认为是正确的军事判断被政府当局忽视或否定时，他很难同他们妥协。
1942年初，美、英两国在关于未来作战的会谈中做出决定，美国必须在当年采取进攻行动。但是，马歇尔将军精心制定的进攻欧洲的作战计划被无限期地推迟了，主要是因为丘吉尔不相信美军进攻欧洲的准备能如期完成，他坚持认为，按马歇尔的计划行动不可能取得成功，一旦失败，将对今后的战争努力产生致命的打击。此时，美国大选即将开始，罗斯福总统希望美军能尽早投入进攻，以便对他连任总统起到积极作用。这两位领袖在会谈中决定于1942年进攻北非，代号为“火炬行动。”
美国军界多数领导人强烈反对这项决定，他们仍希望于1943年进攻欧洲。他们认为，在英吉利海峡彼岸打击德军，是尽快打败纳粹的最佳途径。而“火炬行动”将把力量投向一个非决定性的战略方向，造成力量分散和兵力消耗，必然进一步推迟进攻欧洲的行动。马歇尔和陆军参谋部尽可能地提出反对意见，但是，美、英两国首脑已经决定进攻北非，政治上的理由是很明显的，政治终将决定军事。第二次世界大战期间，罗斯福总统不顾他的军事顾问的反对，完全自作主张的事情不多，这件事是其中之一。决定之后，马歇尔将军和他的参谋军官们，开始忙于按照总统的命令制订和完善进攻北非的战役计划。
尽管马歇尔从一开始接受这项任务就很勉强，但作为一名职业军人，他还是全身心投入到这项工作之中。在制订“火炬行动”计划期间，美、英双方计划人员就进攻地点和进攻方式争论不休，白白浪费了几个星期的时间。英国人主张经过直布罗陀海峡进入地中海，攻打阿尔及利亚和突尼斯的纳粹基地。马歇尔则力主稳扎稳打，不进入地中海，而在摩洛哥的大西洋沿岸登陆，以便在形势不利时，易于从摩洛哥把部队重新运走。双方最后达成一个折衷方案，决定同时在两地登陆。但是，漫长的讨论意味着赶不上在美国大选前发起进攻，马歇尔对此丝毫没有感到不安。他们怎么能在战争期间像平时那样玩弄政治把戏呢？
“火炬行动”计划总算制订了出来，马歇尔去白宫向总统汇报计划时，罗斯福做了一个祈祷的手势，说：“请您在大选前付诸实施吧。”