在斯大林的办公室，斯大林向他们保证：法庭审判并不是反对他们的，而是反对党的死敌托洛茨基的。我们都是列宁的学生和追随者，因此不管你们对党犯下了多么重大的罪过，我们都不想杀害你们。
1936年8月19日～24日，原苏联最高法院军事法庭对季诺维也夫、加米涅夫、奥利别尔格、赖因霍尔德、皮克尔等16人进行公开审判。审判在工会大厦的圆柱大厅举行，这是大清洗运动中第一次公开审判。被告不允许有辩护律师。法庭调查中，被告几乎千篇一律地供认了“杀害基洛夫和准备杀害斯大林及其亲密战友的罪行。”
24日，法庭宣布，所控16名被告全部处以死刑。8月25日早晨，这16名被告全部被枪毙了。
在对16人审讯过程中，有人揭发了布哈林、李可夫和托姆斯基。总检查长维辛斯基宣布了对他们进行调查的命令，几天后，托姆斯基自杀。
对布哈林、李可夫等人的调查最初似乎遇到了阻力。1936年9月10日，当时负责调查工作的亚戈达宣布因为没有发现任何罪证而结束对布哈林、李可夫的调查。
正在黑海边度假的斯大林显然对亚戈达的工作不满意，他给卡冈诺维奇、莫洛托夫和其它政治局委员发了一份电报，电文说：“我们认为绝对有必要立即任命叶若夫为内务人民委员。亚戈达显然不能胜任揭露托洛茨基——季诺维也夫集团的任务，国家政治保卫总局在这个问题上落后了四年。”第二年，叶若夫取代亚戈达担任内务人民委员。
叶若夫上台后，“大清洗”的步伐明显加快。
1937年1月23日，在莫斯科开始了第二次大审讯。皮达可夫、拉狄克、索柯里尼柯夫等17名被告被说成是反苏托洛茨基中心的领导人。他们被指控勾结德国和日本政府阴谋推翻苏维埃政权。他们的幕后指挥者是托洛茨基。这个审判案同第一次一样，是经过精心策划的，检察长维辛斯基操纵着审判过程。一个目睹公审现场的人写道：“所有被告好像都争相往自己的头上堆加罪名——‘是我的莫大罪过’。几乎用不着让他们同原告对质。”皮达可夫甚至绘声绘色地描述了他同托洛茨基在奥斯陆（被告从未到过那里）的会面……所有的人都被判为有罪，13人被枪决，4人被判处10年徒刑。
叶若夫在12月的全会上，攻击布哈林和李可夫，指挥他们同反革命分子托洛茨基有联系，他们有“地下组织”，并正在进行阴谋活动。当莫洛托夫在会上继续对布哈林进行指控的时候，布哈林喊道：“我不是季诺维也夫，也不是加米涅夫！我是不会诬陷自己的。”
全会最后是斯大林讲话，他说：“……我们要继续侦察。”
在审理“托洛茨基平行中心案”中，拉狄克、皮达可夫等人又给布哈林、李可夫等人捏造了一大堆莫须有的罪名。
布哈林接连给斯大林写了几封信，为自己无罪进行辩护，在这期间，布哈林等人还不断被叫去与拉狄克、皮达可夫等人对质。同拉狄克对质后，斯大林问布哈林，怎么解释大家对你提出的指证，布哈林回答说；“这一点您能解释得比我好。”
1937年1月7日，作为主编的布哈林的名字已从《消息报》消失了。
2月，布哈林年轻的妻子拉林娜上街遇见奥尔忠尼启则，两人邂逅相遇不知说什么好，最后还是奥尔忠尼启则先开了口：“要坚强一些！”说完转身钻进汽车走了。拉林娜回到家后，把这事告诉了丈夫。布哈林决定给老朋友写封信，信的结尾写道：“我开始担心，我一旦被捕会落到拉狄克、索柯里尼柯夫、穆拉洛夫的地步。别了，亲爱的谢尔戈，我的所有打算都是真诚的。无论以后命运如何，我都是清白的。”他请求奥尔忠尼启则，如果他被捕的话帮助照顾他全家。但信还未发出，奥尔忠尼启则就于2月18日自杀了。布哈林得知奥尔忠尼启则自杀的消息后悲痛地说：“现在再没有人可以指望了。”
中央全会2月23日举行，预定的日程是：布哈林和李可夫问题，组织问题。中央通知布哈林参加全会，但布哈林决定不去参加。在给中央的声明信中，指出对他所有的指控都是诽谤，并宣布“从明天开始我将完全绝食，直至撤消对我的所谓背叛、暗害行为，恐怖活动的指控为止。”布哈林从2月20日起真的开始绝食。
鉴于布哈林绝食，全会又增加了一个内容：关于布哈林向全会宣布绝食的反党行为问题。由于有这项议程，布哈林决定出席会议，但不停止绝食，进入衣帽间时，李可夫也在，他对布哈林说：“最有远见的还是托姆斯基。”进入会议厅时，布哈林因绝食晕倒在地，斯大林走过来说：“你向谁绝食，尼古拉，向党中央吗？瞧，你像谁了，虚弱不堪。为自己的绝食向全会道歉吧！”
布哈林回答说：“既然你们打算把我开除出党，这又有什么用呢？”“谁也不想把你开除出党。走吧，走吧，为不良行为请求全会原谅吧。”布哈林相信了斯大林的话，向全会道了歉，并宣布停止绝食，指望全会对他有个公道的说法。他的希望马上就落空了。在全会上，叶若夫在他的报告中对布哈林和李可夫提出3点指控：一、欺骗党，成立地下秘密组织；二、坚持在苏联复辟资本主义的纲领；三、在同苏联所有敌人结盟后，转而采取恐怖手段，策划武装暴动，进行各种破坏。布哈林和李可夫对种种诬告都依据事实予以驳斥，坚决否认对他们的指控。
为了最终处理布哈林和李可夫一案问题，全会决定成立一个以米高扬任主席的委员会，起草关于这个问题的决议案，成员有斯大林、莫洛托夫、卡冈诺维奇、伏罗希洛夫、叶若夫、克鲁普斯卡娅、赫鲁晓夫等人。
当天晚上，委员会开会，在会上对布哈林、李可夫一案的处理出现了4种意见。会议最后按斯大林的建议通过决议：1、撤销布哈林和李可夫中央候补委员资格，开除出党，不把他们送交法庭审判，而把布哈林和李可夫案件送交内务人民委员部；2、委托由斯大林、米高扬、叶若夫等同志组成的委员会根据决议起草一份说明理由的决议案。一切准备就绪后，第二天早晨，斯大林的秘书给布哈林打电话，让布哈林和李可夫必须参加27日的全会会议。
布哈林知道自己与妻子诀别的时候到了，他让拉林娜逐字逐句地背下《致年轻一代党的领导人信》。分别时，布哈林吻了吻妻子，用颤抖的声音说道：“看看，安姆特卡，不要生气，历史经常有令人懊丧的错误，但真理一定胜利。”
布哈林和李可夫出席全会。在这次会议上，他们被开除出中央委员会和党籍，并于当天被捕，并直接送到监狱。
布哈林和李可夫被关进监狱后，内务部对他们的侦查进行了1年多。在不断的折磨和逼供面前，为了表示自己忠于社会主义和苏维埃政权，他们最终接受了强加在他们身上的种种指控。
布哈林在狱中给斯大林写了封“绝密，亲收”的信。布哈林在信中并没有打算请求斯大林宽恕，此时他已准备去死，他只是向斯大林表白，“绝对没有犯在侦查时曾承认犯的罪行”。
布哈林认真思索自己的遭遇时，似乎找到了它产生的原因。他在信中对斯大林说：“第一，由于战争即将来临；第二，需要向民主过渡，因此有了大清洗这样一种宏大的，大胆的政治构想。”布哈林不愧为一位伟大的政治家，他猜到了斯大林“大清洗”的真正目的。
在开庭前夕，布哈林给妻子写了一封绝笔信，嘱咐“不管你读到，听到多么可怕的东西，不管对我说了些什么，也不管我说了些什么，你都要勇敢地、平静地对待这一切，让全家做好准备……决不要生气，要记住，苏联的伟大事业仍然存在，而这是主要的，同它相比，个人的命运则是过眼烟云，微不足道的。”
1938年3月2日～13日，苏联最高法院军事法庭对“右派和托派反苏联盟”案进行公开审理，被告共21人，除布哈林和李可夫，前内务部长亚戈达也一同受审。
经11天审讯，法庭宣布判处布哈林、李可夫、亚戈达等18人死刑，其余3人被判处15～25年长期监禁。
1936年底，红军情报总局局长乌里茨基向斯大林报告说，柏林盛传着一种谣言，说是在将军们中间存在着反对苏联领导的派别。
叶若夫送来一份罗沃斯材料的报告，那些材料是从巴黎弄到的，讲到“苏联有一批高级指挥员正准备发动政变”，为首的是副国防人民委员，红军参谋长，图哈切夫斯基元帅。
捷克斯洛伐克的贝奈斯传来的消息加重了斯大林对图哈切夫斯基的怀疑，贝奈斯提供的文件表明，图哈切夫斯基跟德国军界建立了秘密联系，以求通过暴力推翻斯大林。据认为，参加这一密谋的还有列宁格勒军区司令员亚基尔，西部军区司令员乌博列维奇、伏龙芝军事学院院长科尔克、布琼尼骑兵部队的副手普里马科夫、军队总政治委员加马尔尼克等。
1937年5月24日，斯大林中央委员和中央候补委员发了一份供表决的文件，文件写道：
根据联共（布）中央委员鲁祖塔克和联共中央候补委员图哈切夫斯基参与托洛茨基——右倾分子反苏阴谋集团和参与替法西斯德国效劳的反苏间谍活动的揭发材料，联共中央政治局提请就开除鲁祖塔克和图哈切夫斯基党籍并将他们的案件移交内务人民委员部审理的建议进行表决。
5月20日，图哈切夫斯基被解除副军事人民委员的职务，被派往伏尔加军区，他于25日到任，第二天被捕。
6月11日，举行了秘密审判，图哈切夫斯基和其他7名高级将领被控犯了“间谍和叛国”罪，被执行枪决。
图哈切夫斯基被处决是军队大清洗的开始。在1937～1938年的大清洗中，共有3。5万人成了牺牲品，其中高级指挥员受害最深。他们包括：5名元帅中的3名，15名集团军司令中的13名，83名军长级干部中的57名，196名师长级中的110名，406名旅长中的220名，所有11名副军事人民委员，以及最高军事委员会85名中的75名，上校级以下的军官3万名被清洗。
大清洗使军队遭受了重大损失，同时也完成了斯大林在战争来临前所要做的政治准备。
二战中的斯大林
原苏联是世界上第一个社会主义国家，因此它长期处于资本主义的包围中。斯大林在1925年就说过：战争的前提日益成熟而使战争的爆发不可避免。这种看法构成了斯大林内外政策的基本出发点。他相信战争已迫在眉睫，而且很可能在苏联还未来得及积聚力量之前就把它摧毁。正是出于这一考虑，他主张立即实现农业集体化和社会主义工业化，加强自身的力量，在国际事务中围绕着尽可能地避免战斗而展开活动。
1933年，希特勒在德国上台，战争的乌云开始在欧洲上空集结。希特勒公开表示对苏联的敌视，并提出对乌克兰的领土要求。
1933年，苏联同波兰、芬兰签订了互不侵犯条约。在同一年，苏联和美国正式建立了外交关系。1934年夏季，苏联分别同捷克斯洛伐克、罗马尼亚和保加利亚签约，这在一定程度上保障了西南边界的安全。1934年9月，苏联加入了国际联盟，这是为寻求和平采取的一个步骤。1935年，斯大林寻求与英法两国结盟，但遭到英、法两国的拒绝。
1936年10月，德国——意大利轴心形成。纳粹分子不断发出敌视苏联的叫嚣。在东方，日本不断在苏联东部边界上挑起事端，这使斯大林的压力越来越大。1938年3月，希特勒占领了奥地利。接着发生了苏台德日耳曼人危机。德国的好战吓坏了英国首相张伯伦和法国总统达拉第，他们急忙同希特勒磋商，两国同意向捷克斯洛伐克施压，让捷克斯洛伐克把苏台德地区割让给德国。
斯大林立即建议，由英、法、苏三国建立一个反德联合阵线，在德国进攻捷克时三国共同出兵制止德国的扩张。但英法两国都不想得罪希特勒，希望用让步政策来换取西方的和平，牺牲捷克斯洛伐克，把战争的祸水引向苏联。他们不接受斯大林的建议，在臭名昭著的慕尼黑会议上，逼捷克斯洛伐克把苏台德地区拱手让给了希特勒。斯大林毫不怀疑，英法同意肢解捷克斯洛伐克的动机，显然是怂恿希特勒在东方放手大干，以换取西方的和平。
英法两国的短视和自私自利，使斯大林失去了对他们的信心，为了苏联免遭战争，斯大林转而采用实用主义的政策，同希特勒媾和，时间越长越好。因为他的国家现在还没有准备好战争。为了保证社会主义的苏联在世界上的存在，1939年8月，苏联和德国签订了互不侵犯条约。
1939年9月1日，希特勒侵入波兰。两天后，英法两国向德国宣战，战争已成为现实。斯大林加速了苏联的备战。征兵年龄从21岁降到19岁，苏联军队的人数增加到420万以上。
按照与德国达成的协议，苏军进入了波兰东部，把波兰与苏联接壤的乌克兰人和白俄罗斯人居住区占领，并归入苏联版图。10月，斯大林指示莫洛托夫向立陶宛、拉脱维亚和爱沙尼亚提出签订互助条约的建议。条约签订后，红军进入这些国家，2月后，把这三个国家也纳入了苏联的版图，保证了苏联波罗的海通道的安全。在西北部，列宁格勒离芬兰边境只有32公里，在炮火的射程之内，苏联曾向芬兰提出以交换土地的方式让芬兰向北迁移30公里，但遭到芬兰的拒绝。11月，苏军进攻芬兰，受到芬兰的顽强抵抗，苏军伤亡惨重。斯大林很恼火，命令增兵大举进攻，芬兰屈服了，同意将边境向北移动130公里。
1940年，德国的机械化闪电部队很快占领了挪威、丹麦、荷兰、比利时。英国军队从敦刻尔克撤退。法国的马奇诺防线也不堪一击，德国人占领了巴黎。这实际上意味着希特勒可以腾出手来攻打东方了。
斯大林加紧战争准备，各种新式武器装备研制并生产出来，迅速地准备到军队中，加紧培训军官。由于大清洗，军队的高级指挥官奇缺，从被清洗的军官中又召回4千人，他自己每天工作16小时，研究战略战术，组织教官等问题。让总参谋部制订国家防御计划和武装部队部署计划。总参谋部的华西列夫斯基先后两次制订出防御计划，他把红军主力部署在西线，计划呈报给斯大林。斯大林不同意这个计划，令其重新制订。第三次，总参谋部把主力部署在西南面，斯大林同意了。事后证明，华西列夫斯基的前两个方案是正确的，因为斯大林的失误，使战争初期苏军为此付出了惨重的代价。