到了1938年3月7日，希特勒突然宣布召见曼施泰因。
1939年8月，德国实行了战争动员，希特勒准备进攻波兰，成立了南方集团军。
在“白色作战”命令中，曼施泰因被内定为南方集团军总部的参谋长。1939年8月31日德国入侵波兰的战争终于打响了。
1939年10月21日，曼施泰因奉命到设在左森的陆军总部去接受新的作战命令。南方集团军司令部于1939年10月24日抵达了西线的科布伦兹，并接管了为了西方战役而新建立起来的德军A集团军。1939年11月，曼施泰因制定了西线作战的作战计划，这就是所谓“曼施泰因计划”的雏形：计划的核心主要就是利用强有力的德军坦克部队，经过比利时南部的卢森堡，直抵色当，突破该区内的马其诺防线，而将整个法国战线一分为二。
1940年2月7日，曼施泰因被调离南方集团军和A集团军参谋长的位置，任第38军军长。
2月9日，曼施泰因交割了集团军中的事务，黯然神伤地离开了科布伦兹集团军司令部，回到了李格尼兹家中。
2月17日，在家中修养了一个时期之后，曼施泰因奉召前往柏林，以新任军长的身分向希特勒报到。
报到后，希特勒设宴款待各位新军长。
宴会结束，众人告退之时，希特勒请曼施泰因留下，随他往元首的书房中去。在那里，希特勒请曼施泰因把他对于西线的作战计划的个人见解说给自己听。于是曼施泰因就原原本本地把他的计划讲了一遍。希特勒对于曼施泰因的陈述，理解非常快并完全同意他的见解。
1940年2月22日，希特勒通过陆军总部下达了与“曼施泰因计划”大致相同的作战命令。士兵使用的纸牌免税，同时决定为法德前线的士兵拨款购买1万个足球。
5月10日，德国空军突然对荷兰、比利时、卢森堡和法国北部的72个机场实施了猛烈的轰炸，德军地面部队展开了全面的进攻。
当德军按照以“曼施泰因计划”为蓝本的新西线作战计划而紧张忙碌时，曼施泰因本人却在忙里偷闲，坐看第38军军部的参谋们忙着把所属各师集中起来，有时也前去视察正式在波米拉尼亚和波兹南编组中的新陆军师。
苏军边境值班部队仓促抵抗。1940年5月16日，在B集团军辖下百无聊赖的曼施泰因又接到了新命令，他的第38军又改由A集团军指挥。次日，曼施泰因在包斯托根向他的老长官伦德斯特上将报到。在那里，他受到了接替他A集团军参谋长职务的索顿斯吞将军以及旧日同僚的热烈欢迎。他们热情地向他介绍了通过安德内斯山地和渡过缪斯河的作战情况，按照他计划的基本点，新计划的每一步都在顺利进行之中了。1940年8月5日，曼施泰因接到了晋升他为德军步兵上将军衔的通知。
7月19日，曼施泰因以及所有的高级将领都被召往柏林，去参加德国国会的开会典礼。希特勒在典礼上正式宣布西线战役已经结束，同时为了表示国家对军人的感谢，给了一部分高级军官以极高的荣誉。
7月25日，曼施泰因获得骑士十字勋章。
1941年2月底，在法国西北沿海的小镇李托奎特交卸了第38军军长的职务，曼施泰因改任德军第56装甲军军长的新职。这次对曼施泰因来说，可是遂了心愿。早在西线战役开始之前，他就一直想指挥一个装甲军，把自己酝酿多时的新战术加以实践。
1941年5月间，曼施泰因接到了对苏联战争的作战命令，这个命令没有细节，只是指示他的56装甲军从属于一个装甲兵团而已。作为一个普通军长，事先是无权过问对苏战争计划细节的。
“巴巴罗萨”计划规定，执行入侵苏联的德军部队将编成北方集团军、中央集团军和南方集团军等3个集团军，从3个方向同时对苏军实施突击。曼施泰因的第56装甲军隶属于第4装甲兵团，而第4装甲兵团又隶属于北方集团军。北方集团军总司令是勒布元帅，主要是从东普鲁士进攻，歼灭在波罗的海地区中的苏军，然后再向列宁格勒前进。
第4装甲兵团司令是克鲁格上将。第4装甲兵团的任务是挺进芬斯克对岸和维拉河上，占领渡河地点，随即向阿波卡方向前进。第4装甲兵团的右翼为16军团，司令为布歇上将；左翼为第18军团，司令为屈希勒尔上将。
1941年6月16日，曼施泰因到达了第56装甲军的集结地区。6月21日13时，曼施泰因在军部接到命令，6月22日凌晨3时作好攻击前的各项准备，4时开始攻击，对苏战争正式拉开了序幕。
1941年6月22日，这一天恰好是星期天，在凌晨4时，德军向苏联发起了进攻。德国飞机对苏联西部的重要城市、交通枢纽、桥梁渡口和军事基地进行了猛烈的轰炸。接着，在猛烈的炮火准备之后，德军以数十个坦克师和摩托化师为先导，在巴伦支海到黑海3000公里的正面发动了进攻。苏联西方军区在22日的整个上午失去了指挥，被迫节节抗击向后撤退。
德军北方集团军第4装甲兵团的先期任务，就是完整地夺得维拉河上的桥梁，为进一步攻击列宁格勒打下基础。这条大河是一个可怕的障碍物，而完整地夺取河上的桥梁，直接关系到德军装甲部队的行进速度，成为体现和发挥闪击战特长的关键所在。因此第4装甲兵团的前进，实际上是一场赛跑，看哪一个军最先夺到维拉河上的渡口。
1941年8月15日，曼施泰因第56装甲军在鲁加的任务改由德军第50军接管，在北进到达了沙门罗湖之后，第56装甲军刚刚宿营，就接到第4装甲兵团司令部的电话，命令他们停止前进，待天明之后折返；随后告诉他们，现在第56装甲军已经调归德军第16军团指挥。
曼施泰因元帅和他的参谋在苏联前线一起研究战局。8月18日夜间，经过成功的伪装，曼施泰因手下的两个机械化师在苏军西侧面的秘密集结完毕，于次日凌晨对正准备进攻德军第10军的苏军侧翼突然发动了攻击，苏军受到这支突然出现的生力军的打击，连忙撤兵，德军第10军乘势转守为攻。到了8月22日，第56装甲军的两个师已经俘获了1.2万名苏军俘虏，坦克141辆、火炮246门，以及许多自动兵器和摩托化车辆。
9月初，原属于德军中央集团军的第57装甲军被调到北方集团军，加入布歇的第16军团序列。但过了不到10天，最高统帅部又决定把曼施泰因的第56装甲军调到以南的中央集团军，归第9军团指挥。9月12日，曼施泰因被任命为第11军团司令。13日，曼施泰因到第16军团司令部，正式向兵团司令布歇上将告别，随后只带了副官斯皮赫特和驾驶兵纳格尔，前去苏联黑海沿岸接任德军南方集团军第11军司令之职。
1941年9月17日，曼施泰因到达了尼柯拉夫的第11军团司令部，接管其指挥权。该司令部恰好设在布洛河口上的原苏联海军基地中。
曼施泰因对自己的这一新职务感到奇怪，第11军团名义上是军团，实际只是被扩大了的军而已，而且除了德军第11军团之外，还要兼管罗马尼亚第3军团。由于复杂的政治原因，这个地区的指挥体系很复杂。名义上的指挥权是由罗马尼亚国家元首安东尼斯库元帅负责，由他在形式上指挥罗马尼亚第3、第4两个军团和德国的第11军团。
第11军团除了要继续追击向东撤退的苏军之外，还必须攻占克里米亚，而且统帅部命令第11军团，要把攻占克里米亚的任务放在优先的位置上考虑。
攻占了克里米亚，将对把土耳其拉到德国一方大有好处。另一个更迫切的理由是，苏军设在克里米亚的空军基地对于罗马尼亚油田构成了巨大的威胁，罗马尼亚油田对德国的战时经济有着极其重要的作用，是德国装甲兵血液的来源之一，元首希特勒对此特别重视。攻陷克里米亚之后，第11军团的山地部队将越过刻赤海峡进军高加索，加强德军进攻罗斯托夫的兵力。
1941年11月16日，德军猛烈的追击结束，除了塞瓦斯托波尔要塞地区以外，全部克里米亚都已经落入了德军手中。1942年2月1日，集团军通过电话，又告诉曼施泰因一个好消息：他已经被晋升为上将军衔，离元帅只有一步之遥了。
在刻赤半岛作战之后，乘着德军部队士气正高，曼施泰因把第11军团立即进行重新编组，以便执行克里米亚战场的最后一役——塞瓦斯托波尔的攻击。
曼施泰因决定把对塞瓦斯托波尔要塞作战计划的代号定名为“鳄鱼”。在制定对要塞的作战计划的时候，第11军团的参谋们给堡垒中的炮台起了一些很好记的名字，如“高尔基一号”炮台，是一座装备着35厘米口径火炮的据点，有钢甲保护，与其他据点之间有地道相连。另外还有“斯大林”、“伏尔加”、“西伯利亚”、“莫洛托夫”等。
曼施泰因统帅着德军第11军团，费了九牛二虎之力，付出了惨重的代价之后。这才攻克了克里米亚。希特勒在高兴之余，晋升曼施泰因陆军元帅军衔。1943年8月27日，曼施泰因率领德军第11军团的司令部到达了列宁格勒前线，第11军团被指定为第二个波次的进攻部队，部署在德军第18军团地区内。9月4日，正在焦急地等待前线消息的曼施泰因，突然接到了希特勒从芬尼特沙元首大本营亲自打来的电话，委派曼施泰因负起列宁格勒前线的全面指挥之责。1943年11月20日，曼施泰因又接到了元首的新指示，奉命成立了一个新的“顿河集团军”，由他出任顿河集团军的总司令，负责协调对斯大林格勒两侧地区德军的指挥，集团军司令部初步设在费特布斯克。
1942年11月21日，曼施泰因被任命为顿河集团军总司令之职，并指挥德军第4装甲军团、第6军团和罗马尼亚第3军团。1943年2月19日，曼施泰因命令南方集团军所属的第4装甲军团，对当面的苏军发起了一个短暂的预防性攻击。攻势于3月2日结束，苏军的西南方面军所属各军团都受到了重创。据德军参谋人员报告，苏军在顿聂兹、聂泊河战场一共死2.3万人，德军缴获坦克615辆，野战炮354门，高射炮69门，以及大量的机关枪和迫击炮。
2月28日，德军南方集团军在曼施泰因的指挥下，又发动了对苏联的名城卡尔可夫的战斗。参战的有德军第4装甲军团、肯夫兵团（以这个兵团的兵团长的名字命名）和党卫军的1个装甲军。曼施泰因督促德军士兵冒着聂兹河下游河中浮冰的碰撞，迂回包围了该城。这次党卫军的装甲军冲劲十足，发挥了较大的作用，他们要把卡尔可夫城当作献给元首希特勒的礼物。
1943年3月14日，党卫军的装甲军在付出了巨大代价之后，终于攻入了卡尔可夫城。另外，德军肯夫兵团的北翼“大德意志师”也就势攻占了贝尔果罗德。
第二阶段的反击结束，总算没有让希特勒完全失望。元首因此而授予曼施泰因栎树叶骑士十字勋章。1943年7月5日，德军终于发动了攻击。中央集团军的第9军团在两天的时间内，突破苏军阵地达9英里，直到7月9日，被苏军阵地中的一个高地所阻。苏军于7月11日在中央集团军第2装甲军团防御阵地的侧翼实施了反突击，中央集团军总部不得不把第9军团的机动兵力调回去防守。
南方集团军发展比较顺利。到了7月11日，击溃了苏军的近10个坦克或者机械化军，到了7月13日，南方集团军俘虏苏军2.4万人，缴获、击毁苏军装甲车辆1800辆，野战炮267门，战防炮1080门。