1942年，苏军向德国发动总反攻，但是由于没有足够的预备队和炮兵支援，苏军又受到了一些挫折。在南部、苏军在塞云斯托波尔，哈尔科夫等地遭到失败。5月，苏军在刻赤、哈尔科夫相继兵败，7月塞瓦斯托波尔失守，苏军损失惨重。
1942年8月23日，德国人开始对斯大林格勒进行最后阶段的进攻8月底，苏军已经撤退到斯大林格勒防御区的中心。为了加强斯大林格勒大会战的指挥，斯大林把朱可夫从西线调开，同时任命他为副最高统帅。
9月3日，希特勒的一个坦克兵团冲到了斯大林格勒郊区，当华西列夫斯基向斯大林报告形势时，斯大林打断他的话：“你们怎么不懂得，如果我们放弃了斯大林格勒，我们的南部同中部的联系就将被切断，我们还能保持住南部地区？在那里的人员是否懂得，这不仅是斯大林格勒的灾难，而且还会失去一条水路干线，不久还将失去石油！”
华西列夫斯基回答说：“斯大林格勒城下一切还能作战的力量，我们都调集到危险地段上去了，我想，扞卫住城市还有可能。”
但斯大林不放心，他立即口授命令给朱可夫：“……敌人可能在今天或明天就把斯大林格勒拿下来。请您要求斯大林格勒以北和西北各部队的司令立即对敌人发动突击，支援斯大林格勒人……”
随后几天，朱可夫从北面组织了几次攻击。但是由于没有得到炮兵和空军的有力增援，这几次攻击没有取得明显效果。
9月10日，朱可夫用电话向斯大林报告说：“以斯大林格勒方面军现有的兵力，我们不能够突破敌人的走廊并与东南方面军的部队在市区会师。德军由于从斯大林格勒附近新近调来的部队，敌人的防御正面相当强大了。以现在的兵力和部署继续冲击是没有用的，而且部队必然要遭受重大的损失。
斯大林听完后，要朱可夫和华西列夫斯基回莫斯科。9月12日，他们一起去见斯大林。“要消除敌人的走廊并与东南方面军会师，斯大林格勒方面军需要些什么？”斯大林问道。“至少还需要一个精锐的诸兵种合成集团军、一个坦克军、3个坦克旅和400门以上榴弹炮。此外，在作战过程中必须补充集中至少一个空军集团军。”朱可夫回答说，华西列夫斯基同意他的估计。
斯大林听完后，拿出最高统帅部预备队配置图，默默地研究着。朱可夫和华西列夫斯基从桌子旁走开，两个轻声交换意见，认为显然得另找别的解决办法。
“还有什么解决办法？”斯大林突然问，从地图上抬起头来。
朱可夫非常吃惊，想不到斯大林有这么好的听力。他们回到桌子旁，扼要地谈了大规模作战的计划。斯大林让他们回到总参谋部、制定一个计划，第2天晚上9点向他汇报。
第2天整天，朱可夫和华西列夫斯基坐在地图前，同总参谋部人员商量并制订出初步计划。晚上，他们来到斯大林的办公室。斯大林同他们打招呼时气愤地骂了一通丘吉尔，然后他又平静地说：“好吧，你们的意见是什么？由谁谈？”朱可夫和华西列夫斯基向斯大林汇报了大反攻的计划。取名“天王星计划”，计划由两支主力装甲部队采用钳形攻势向前突击，瓦图京的西南方面军的罗科索夫斯基的顿河方面军在北，叶廖缅科的斯大林格勒方面军在南。
就在朱可夫和华西列夫斯基向斯大林汇报这一大胆而果敢的构想时，斯大林格勒已进入残酷的巷战。德国军队攻进了城里，守城部队工人并肩战斗拼死抵抗。在这以后的两个多月的时间里，日日夜夜都在进行空前激烈的搏斗。最初，德国军队在西南方向的进攻速度是每昼夜前进几十公里，后来是几公里，9月是几百米，到了10月，这样的前进速度也没有了。从10月14日至11月19日，战斗就在房屋进行。
尽管德国在斯大林格勒投入了22个师的兵力，还有几乎相同数量的盟军一起行动，但德国国防军的战争机器却在原地空转。
1945年4月30日14时25分，苏军战士把胜利的红旗插到柏林国会大厦顶上。在斯大林格勒保卫战进入白热化状态的时候，大反攻的准备工作正在紧锣密鼓的进行。根据这一计划的设想，在大约60天的时间里，在斯大林格勒顿河地区集中了100万军队，13500门火炮和迫击炮，300多组火箭炮，110架飞机。这是又一次前所未有的壮举，是计划和组织工作的出色成就，每一阶段都是在斯大林积极直接指挥下由朱可夫和华西列夫斯基贯彻执行。
11月19日上午，瓦图京和罗科索夫斯基从北边发动进攻。第2天，在由于浓雾而推迟了几个小时后，叶廖缅科从南边发动进攻。11月23日，他们已在卡拉契附近会师，合围了德军第6集团军，还有第4装甲集团军的一个军。
斯大林立即指示华西列夫斯基集中力量开始实施土星作战计划，这是对被围困在斯大林格勒的敌人再加上一层合围圈的大胆攻势。这样，在苏联军队掌握了罗斯托夫以后，在高加索的德军的退路就被封堵了。
在南边，德国人匆忙重新组织他们的力量，建立了顿河集团军群，由陆军元帅曼施泰因指挥。他一直打到接近鲍卢斯防线25英里的地方。但鲍卢斯没有突围与他会师。12月24日，斯大林批准了一次反攻，把曼斯泰因赶回到科捷尔尼科沃，并且更向南赶了60英里。曼施泰因放弃了给鲍卢斯解围的努力。他集中力量防守罗斯托夫与塔曼之间的空隙，以便让高加索和库班的德军部队能够撤退。
在西边，土星作战计划因曼施泰因的进攻而作了修改，现取名为小土星作战计划，取得了成功，5天内前进了150英里。
在北边，朱可夫协调指挥的进攻迫使德国人退出了维亚泽马突出部，并把封锁列宁格勒的敌军打开了一个7英里宽的缺口。
1943年1月31日，德军南部集团军群投降。2月2日，北部集团也投降。德军在顿河、伏尔加河、斯大林格勒地域总共损失了约150万人，3500辆坦克，12000门火炮，3000架飞机及大量的其他技术兵器。这些损失对希特勒德国的整个战略地位产生了极大地影响，并彻底动摇了其整个战争机器。
1943年2月4日，罗科索夫斯基和沃罗诺夫奉召从前线回到克里姆林宫。斯大林热情地欢迎他们，祝贺他们所取得的胜利。正如罗科索夫所说，在这种场合，“他确确实实能够以他的热情和关心使人陶醉。”
1943年7月库尔斯克战役彻底摧毁了希特勒的主力，法西斯当局无论采取什么措施也不再能弥补在库尔斯克战役中的损失，从这时起，德国人只能退却。
1943年10月，苏军渡过了第聂伯河。11月6日基辅解放。两天后，日托米尔解放。在北面，9月25日收复了斯摩梭斯克，莫斯科彻底解除了受进攻的威胁。1944年，苏军先后解放了列宁格勒、克里木和敖德萨、明斯克。至此，苏军在斯大林的领导下，收复了被德军占领的所有国土。从1944年7月起。转入外线作战，先后解放保加利亚、匈牙利、捷克斯洛伐克。
1944年6月6日，英美军队在法国的诺曼底胜利登陆，自此开辟了斯大林等待已久的欧洲第二战场，加快了纳粹法西斯灭亡的速度。
丘吉尔想赶在俄国前面抢先攻占柏林。斯大林也非常重视攻克柏林的政治意义，他把朱可夫召回莫斯科，问他什么时候可以开始进攻，朱可夫回答说。他和科涅夫可以在两周的时间内向柏林发起进攻。但他没有把握罗科索夫斯基是否能够如此迅速的作好准备，斯大林说：“只好不等罗科索夫斯基就开始了，即使他迟几天也碍不了大事。”
1945年4月16日拂晓前，朱可夫和科涅夫的两个方面军开始进攻。4月23日攻入城内。4月30日，苏军直捣德国国会大楼，希特勒自杀。
5月1日凌晨，朱可夫往莫斯科打电话给斯大林，向他报告了关于希特勒自杀和收到戈培尔建议停战的信的情况。
斯大林回答说：“完蛋啦，这个混蛋！可惜没能活着把他抓到。希特勒的尸体呢？……告诉索科洛夫斯基，除无条件投降外。不要同克列勃斯或其他希特勒分子进行任何谈判。如果不发生特别情况，夜里别再打电话给我。我想休息一会。今天我们要举行五一节检阅。”
5月9日凌晨，德军元帅威廉·凯特尔代表德国统帅部签订了无条件投降书。这一天被宣布为反法西斯胜利日。
6月24日，在红场举行了规模盛大的胜利阅兵。斯大林站在列宁墓上，身旁是朱可夫元帅。阅兵由罗科索夫斯基指挥。这天正下着倾盆大雨，但丝毫没有使庆祝的盛况减色。步兵、骑兵和坦克兵通过泥泞的道路，由红场急驰而过。斯大林作为原苏联各族人民的领袖，作为红军的最高统帅，最终领导苏联人民赢得了反法西斯战争的最后胜利。