1934年1月26日至2月10日，联共（布）第十七次代表大会在莫斯科举行。出席大会的有表决权的代表1225名，有发言权的代表736名，共代表1874488名党员和935298名预备党员。斯大林作了总结报告，莫洛托夫和古比雪夫作了关于发展苏联国民经济的第二个五年计划（1933～1937年）的报告，卡冈诺维奇作了关于组织问题的报告。职共（布）第十七次代表大会通过了第二个五年计划。该计划规定到1937年全部工业产值达到927亿卢布，年平均增长16.5%，比战前增长7倍；整个农业产值要达到262亿卢布，基本上实现农业机械化；国民经济的基建项目投资规定为1330亿卢布，比第一个五年计划提高一倍多。大会通过了新拟定的《党章》，选举了党的领导机关。联共（布）第十七次代表大会是在第一个五年计划胜利完成之际召开的，它进一步巩固了联共（布）党的建设社会主义的总路线，它对苏联变成一个经济上和技术上独立的、先进的国家具有重要的意义。
1934年12月29日，政治局委员、约瑟夫·斯大林的主要助手之一——谢尔盖·米·基洛夫于1904年加入布尔什维克党，并在过去的8年中担任列宁格勒地区党委书记的职务。12月2日，他在列宁格勒共产党总部被一名枪手暗杀。斯大林政府立即审问并将100多人处死。基洛夫在一篇文章中被赞誉为勇敢的和无畏的革命者，共产党中央委员会说他死在工人阶级的敌人的罪恶之手。政府未经很好核实，就宣布列昂尼德·尼古拉耶夫已经被捕并将对他进行审判。与此同时，斯大林正利用这起谋杀案作为清洗共产党对手的借口，他们被指控进行反政府的恐怖阴谋。在暗杀事件后的一周之内，被苏维埃报纸说成是“白匪恐怖分子”的66人在莫斯科和列宁格勒的秘密法庭被宣判有罪并马上被枪杀。10天之后，另外27人被判有罪，在基辅被处死。紧接着，前任共产国际主席格利戈里·季诺维也夫和《真理报》前任编辑列夫·加米涅夫也因基洛夫的暗杀而被捕。
1935年2月6日，苏联第七届苏维埃代表大会重新选举出第七届中央执行委员会，该委员会确认现行领导班底后，大会宣布闭幕。斯大林第五次当选为中央执行委员会主席。莫洛托夫也保持了人民委员会主席的地位，并继续担任苏联的政府首脑。其他的重要政府职务由下列人员担任：马克辛·李维诺夫（外交部长）、克里门特·伏洛希洛夫（国防部长）、根利克·雅高达（内政部长）、安纳斯塔斯·米高扬（粮食部长）和契尔莫（农业部长）。苏维埃代表大会亦接受由莫洛托夫起草的一个选举改革方案，其中的基本内容是取消公开选举，代之以秘密选举。国防委员会代理人民委员米契尔·杜克柴夫斯基元帅提出令苏维埃代表大会吃惊不已的苏联扩充军备的数字，因为按照该项数字的估计，苏联的军备费用已不是财政收支中规定的16.6亿卢布，而是50多亿卢布，以便在与资本主义国家发生战争时有足够的武装部队。
约瑟夫·斯大林的“清洗”进入俄国军队的最高层机构。在一次秘密审讯中，8名将军因叛国罪被处死刑，并于1937年6月12日执行。官员们说他们都对指控他们企图推翻斯大林政权表示服罪。共产党官方报纸《真理报》宣称：“对间谍和叛徒决不仁慈。”被判处死刑的将军中有图哈切夫斯基元帅，直到不久前，他还担任着国防部副部长职务，秘密警察在半夜逮捕了他；据说他当时企图逃脱，因此被秘密警察打伤。这些将军都被指控为和外国一起阴谋反对苏维埃联盟。《真理报》批判了所谓的“德国和日本法西斯伸进来的黑手。”“虽然法西斯间谍爬虫有许多脑袋，但是我们将一个不留地将其砍掉，割断每一条伸进来的触角并且除去毒蛇的毒液。”