在警署内，宪兵想尽办法让佐尔格交代罪行，最后把搜集的罪证交给佐尔格。后来，佐尔格被关到巢鸭监狱。
佐尔格保持着冷静思考，通过身份认定保护自己。佐尔格发现，日本人把他当成德国间谍了。佐尔格为了自救，招认了自己是苏联间谍。
当时，苏联与日本之间没有正面的军事冲突。佐尔格企图使日本人相信，苏联的谍报工作并不针对日本，而是针对德国。佐尔格想让日本人相信，“扎姆扎”小组是为共产国际工作，是为了意识形态工作，而不是军事间谍。佐尔格想让日本人相信，他们为了日本人民的利益，力图使苏联和日本之间维持和平。
日本政府几次向苏联提出用苏联在押的日本军官来交换佐尔格，但苏联没有答应交换的条件。
在狱中，佐尔格想到了时间，时间或许能够拯救他们。为了拖延时间，第一个月里佐尔格什么都不说，每次提审他时，他只是从审讯员的言语中套出消息。结果，他受到了严刑拷打。
佐尔格认为，如果日苏关系发生急剧的变化，日本对待他们的态度可能会转变。
佐尔格通过指责战友达到保护他们的目的。不过他发现，时间救不了他们。根据日本的法律，小组的每个成员都会被判死刑。
在小组中，佐尔格和尾崎秀实是骨干，大部分情报出自他们之手。伍盖利奇、宫城与德和克拉乌岑仍有活命的希望。
两个月后，佐尔格像发泄一样，指责每个战友，日本人以为掌握了“扎姆扎”小组的内幕。佐尔格通过这种方法为战友开脱罪责。佐尔格指责克拉乌岑对工作不负责任，说克拉乌岑只忙着做生意，一心想发财；克拉乌岑的妻子安娜对苏联极端仇视，反对“扎姆扎”小组的存在，结果与克拉乌岑离婚了。
日本情报机构相信了佐尔格的说法，美国情报机关战后也根据日本情报的档案记载做出了错误的判断。
事实上，克拉乌岑发出10.6万组数字电文，2000多份电报，平均每天发出两份电报。
佐尔格指责伍盖利奇和宫城与德提供的情报毫无价值，还指责伍盖利奇把精力用在记者工作，提供的材料是每个记者都知道的新闻。宫城与德也是如此，根本没有用处……
经过长时间的思索，佐尔格找到了日本法律的漏洞。日本法律没有明文规定要保守机密，这样一来，小组的活动没有任何罪责。
1943年8月，东京地区法院开庭审理“扎姆扎”案件。在法庭上，佐尔格举出日本法律的不完善之处：日本法律没有规定要有责任保护机密，日本法律在这一点是相互矛盾的，不能只根据泄漏秘密来定罪。
日本法官的自尊心被激怒，他们只能从日本立法的本质进行解释。佐尔格反驳道：“凭什么逮捕伍盖利奇和克拉乌岑？他们没有直接参与过情报活动，他们没有对日本造成危害，各国驻国外的记者与他们有什么两样，驻在莫斯科的日本记者不也在报道苏联的新闻吗？形式上加入了某一组织并不等于他们有罪。如果无法断定他们有罪，那么指控是错误的。”
佐尔格说：“德国大使馆人员自愿告诉我情报的，我从没有采取偷或抢的方法。德国大使奥特和海军、空军武官自愿请我帮他们写报告。尾崎秀实的消息是从前首相那里得到的消息，这种消息在许多政要那里都能间接得到……”
法官们张口结舌，他们控制不了局面，只好草草收场，硬性判决。最后，佐尔格不承认有罪：“我们没有违犯日本的任何法律。我们从事的共产主义运动有什么罪？你们制定的是什么样的法律？十月革命为我们指明了道路，我们支持世界共产主义运动。我所做的一切，我选择的道路是正确的……”
1943年9月29日，东京地方法院宣判佐尔格和尾崎秀实死刑。伍盖利奇和克拉乌岑被判处无期徒刑，安娜·克拉乌岑被判处7年徒刑，后来被改判3年徒刑。
佐尔格和尾崎秀实向日本最高法院提出上诉。在上诉书中，佐尔格为战友辩护，希望以死来换取战友的生命。1944年1月和4月，最高法院驳回佐尔格和尾崎秀实的上诉。
1944年11月7日上午9时，佐尔格和尾崎秀实走上绞刑架。尾崎秀实在给妻子的遗言中写道：“我不是胆小鬼，我不怕死。”佐尔格走到绞刑架下时，自己把绞索套到了脖子上。
伍盖利奇被判处无期徒刑，比佐尔格和尾崎秀实多活了两个月。他在服刑期间受尽折磨。冬天气温达零下40度，监狱的条件恶劣，伍盖利奇缺衣少食，睡在结冰的草席上。伍盖利奇经受折磨，临死前体重只有64斤。
克拉乌岑夫妇终于迎来了1945年8月14日。获释后，他们来到莫斯科。1946年，他们回到德意志民主共和国。为了纪念佐尔格，苏联的《真理报》于1964年11月6日发表了有关佐尔格的真实情况。
1964年11月5日，苏联追授佐尔格为“苏联英雄”称号。
德国反法西斯人士冒着生命危险，在德国占领国和中立国搜集了大量情报，并把情报送到苏联、英国、法国和美国。
德国有个反法西斯组织，代号为“红色乐队”。它接触了德国秘密警察的文件，将文件送给了苏联人。
1941年2月初，一位德国印刷工人来到苏联驻柏林领事馆。他掏出一本《俄德会话手册》，上面是用俄语印着：“你是共产党员吗？”“举起手来！”“我要开枪了！”“投降吧！”等等。这本手册立即被寄到莫斯科。
1941年3月份开始，关于德国准备攻打苏联的传闻扩散到整个柏林，这些传闻都被苏联情报部获悉，而传闻中提到的进攻日期却不一致。
1941年5月底，苏联驻柏林使馆外交官谢苗诺夫参赞写了份报告：德国做好了进攻苏联的准备，德国随时都可能进攻苏联。
苏联驻柏林的海军武官沃龙佐夫向苏联海军人民委员部发出报告。他几乎提出了准确无误的战争开始日期。但海军人民委员库兹涅佐夫上将对该情报不予重视。库兹涅佐夫在上交给斯大林的一份报告中，认为沃龙佐夫的情报是假的。结果，这份情报和其他许多情报一样都成了“假情报”。
匈牙利共产党员山多尔·拉多在瑞士建立了情报组织——“拉多小组”。德国的反法西斯人士鲁道夫·缪斯勒是拉多获得情报的一个来源。
缪斯勒与几个德国军官组成的“维金人”小组保持着密切的联系。这几个军官在德军总参谋部和最高统帅部任职。
希特勒签署“巴巴罗萨”计划20天后，“维金人”小组将详细计划送给缪斯勒，缪斯勒将情报送给拉多，拉多再将详细计划通报给苏联。
1941年2月底，拉多向苏联报告说：“德国将于5月底进攻苏联。”3月底，拉多向苏联报告说：“希特勒将战役推迟4周。”
1941年6月12日，拉多向苏联报告说：“总攻将于6月22日凌晨进行。”
3.“巴巴罗萨”计划出台
在希特勒的心目中，苏联一直是不共戴天的死敌。在意识形态上，社会主义苏联是德国无法容忍的异类，消灭红色苏维埃政权是希特勒全盘计划中早晚的一步。希特勒一旦对苏开战，这场战争就会具有整个欧洲讨伐危险的布尔什维克的意义，就像第二次十字军东征一样。
希特勒对于斯大林的印象是：这个家伙和我一样，会使用欺诈的手段，会在对自己有利时背弃任何的条约，说不定什么时候苏联会主动进攻。事实上，《苏德互不侵犯条约》签订以后，希特勒越来越感觉到背后苏联这根刺。
希特勒在前面指挥德军在法国大地上挥戈猛进，苏联却悄悄地在他背后用和他如出一辙的手段扩张。大量情报表明，丘吉尔正在极力拉拢苏联参战，苏联有可能与丘吉尔结为同盟，而从背后直接进攻德国。这样的话，德军将在毫无准备的情况下，被动地陷入两线作战的不利局面。不止于此，最重要的是苏联实际上掌握着德国的经济命脉。
随着战争规模的不断扩大，德国对原料的依赖越来越大，其中一大部分如橡胶、石油、铜、铂、锌、石棉、黄麻和钨等原料只能由苏联供应。尽管苏联当时还根据签订的条约进行供应，但毕竟让人放心不下。
如果对英战争没完没了地打下去，而美国的军事实力会像希特勒估计的那样，在1943年充分地显示出来，那么，德国必须在原料上彻底依靠苏联。一旦苏联变卦，等于是釜底抽薪。一旦打败苏联，情况就不同了，德国可以完全放心地从苏联攫取原料和农产品：乌克兰的小麦，顿巴斯的煤炭和矿石，科拉半岛的镍，高加索的石油，白俄罗斯的木材等等。
德国的战争潜力绝对处于下风，而且，随着战争的拖延，美苏两国迟早会参战，德国将无法抗衡美英苏这三个大国从两个方向的联合进攻。与其如此，不如先集中兵力，以闪击的方法迅速解决掉苏联。这样一来，就能彻底稳固自己的背后，并且获得极大的资源优势。
希特勒另一个如意算盘就是，迅速解决苏联能为日本消除隐患，从而大大地支援日本。而支援日本，等于牵制了美国，这使得美国无法分兵与德对战，同时将英国逼上孤立无援的绝路，迫使英国放弃抵抗，与德国合作。如果希特勒的这个想法实现，那么对苏作战就不是两线作战的险招，而是一箭双雕的妙计。
惟一让希特勒犹豫不决的是，苏联对他来说太神秘了，德军最高统帅部无从了解苏联坦克和飞机的数量，而德国情报部门的报告也只是猜测，而不是判断。至于苏联平时或者战时可能组建的陆军师的数目，希特勒也没有可靠的情报资料。
希特勒的情报部门只能以苏联人口和估计的工业潜力为依据，草率而粗略地判断敌情。同时，希特勒的情报部门对苏联最高统帅部和主要将领几乎一无所知。
由金策尔主管的德国情报部门在1941年1月1日出版的一本关于苏联武装部队手册，暴露了德国情报部门在工作上的缺陷。手册坦率地承认，关于苏军战斗序列方面的情报几乎是一片空白，至于苏联有多少个方面军（集团军群）和集团军，也没有确凿的数据能够说明。手册没有详细介绍苏军的编制装备。只是推测，给集团军配属骑兵部队或摩托化部队是可能的。
换个角度来说，苏联到底潜藏着多大的战争潜力，苏联究竟会有多大程度的抵抗，希特勒都无从知晓。但是，希特勒找到了一个最好的参照物，那就是1939年的苏芬战争。在那场力量对比完全倒向苏联的战争中，苏军表现得却异常低劣。
为对付仅有350万人口的芬兰（一共有15个步兵师、60辆坦克），苏联竟动用了50个师，上百万军队，11000多门大炮，3000多辆坦克和3000架飞机，耗时4个多月，伤亡26万人（是芬兰军队伤亡的三倍多）。这与德国在欧洲的横扫千军、势如破竹的攻势形成了鲜明的对比。
想到这些，希特勒颇为得意，认为苏联是愚昧落后和外强中干的，苏军的武器装备远远落后于德军。毫无疑问，斯大林的大清洗造成了高级军事将领的严重匮乏，军队指挥能力低下。
于是，希特勒乐观地作出判断：一旦开战，“在指挥、物资和部队诸方面，我们将登上有目共睹的巅峰，而苏联会陷入明显的低谷……苏联将一触即溃”。并且德军一旦入侵，苏联政局必将发生动荡，苏联社会主义很可能就此迅速瓦解。“我们只要踢开屋子的大门，整个腐朽的屋子就会立刻倒塌。”
希特勒的决心一旦下定，就不会轻易改变。希特勒知道，这是一场赌博，但希特勒更相信，最后赌赢的一定是他。
为此，希特勒侵略苏联的“巴巴罗萨”计划逐渐浮出水面。消灭苏联是希特勒的既定方针。在《我的奋斗》一书中，希特勒称：“必须把苏联从欧洲国家的名单中划掉。”与苏联缔结互不侵犯条约后不久，希特勒在一次机密会议上宣布：“条约只是在对我们有用时，才有遵守的必要，一旦我们在西方腾出手来，我们就可以对苏联作战。”
1940年6月初，希特勒曾向德军A集团军群总司令龙德施泰特说过：“我真正的伟大使命，是同布尔什维主义算账。”德国灭亡法国，直下西欧，把英军赶出欧洲大陆。这时，希特勒认为，他已经从西方腾出手来，可以考虑对苏作战了。
7月21日，希特勒要求陆军为闪击苏联做好准备。7月底，在伯格霍夫会议上，希特勒下令参谋部门正式制订对付苏联的作战计划。
8月，德军开始初步拟定“巴巴罗萨”计划，初步拟定工作以德军两次军事演习的进行而结束。德国参谋总部下达“重建东方”密令，开始向东线调集大军，沿苏联西部边界大量修筑战略公路、铁路、桥梁和屯兵点。之后几个月，德军参谋总部连续制订了几个作战计划，但都停留于设想阶段，没有付诸实施部署。
随着不列颠空战的失败，希特勒再次把目光转向苏联，决心消灭社会主义苏联。希特勒说：“要打败英国，少不了扩充海空军，也就是要削弱陆军。但只要苏联依然是个威胁，就万万不能削弱陆军。”希特勒还说，丘吉尔之所以负隅顽抗，就是因为对苏联抱有希望。于是，德国对苏作战进入实际部署阶段。
11月底至12月初，陆军总参谋部设在佐森，在保卢斯的指挥下，德军开展了大规模的军事演习。陆军总参谋部的哈尔德、作战部部长豪辛格和其他高级参谋人员参加了演习。演习结束后，哈尔德主持召开秘密会议，论论如何利用演习的成果。在这次会议上，德军参谋部人员详细讨论了苏联的经济和地理情况，并研究分析了苏联军队。
12月5日，希特勒主持召开秘密会议。哈尔德等陆军高级将领们向希特勒汇报攻打苏联的计划。这个计划是根据陆军参谋部的演习成果制定的。希特勒和布劳希奇及哈尔德，最高统帅部的凯特尔和约德尔对进攻苏联的计划中的每一步骤和战术细节进行了归纳，并最终确定了下来。希特勒采纳了布劳希奇元帅关于主攻方向为莫斯科的建议。
计划的核心内容是：根据既定计划快速备战，战役发起的时间初步定为1941年5月。希特勒批准了该计划。但计划中还有两种意见的分歧。
随着对整个计划的了解，希特勒最终醉心于这一伟大的历史上绝无仅有的无与伦比的庞大计划。希特勒把这个计划最终定名为“巴巴罗萨”。
“巴巴罗萨”计划规定：“德军要在一次快速的战役中击败苏军，要在对英战争没有结束前打垮苏联。为了达到这一目的，陆军必须投入最大的力量，但也需要一部分兵力保卫本土和占领区，防止受到突袭。”
12月6日，作战部部长约德尔委托瓦尔利蒙特将军根据会议通过的决定，起草了对苏作战的训令。12月12日，瓦尔利蒙特将第2l号训令交给约德尔。约德尔修改过后，立即呈送希特勒批准。12月17日，希特勒从头至尾看了一遍这个大胆而凶猛的计划，非常满意。12月18日，希特勒签署“巴巴罗萨”计划的第21号训令，“巴巴罗萨”计划最终确定下来。