格林斯基是伊凡的舅舅，他们在各地的苛捐杂税、独断专行，全莫斯科人民怨声载道。伊凡加冕后的第五个月，一场可怕的大火降临了莫斯科。时值盛夏，久旱未雨，火势勇猛，都市大部分被焚，1700被烧逝世，大批居民流离失所。这时流言四起，人们都说是格林斯基家族的人放的火。于是暴怒的大众将憎恶都集中到格林斯基身上，他们冲进克里姆林宫，找到格林斯基家族中的一人，就用石块将其砸死。接着他们又将格林斯基家的住宅洗劫一空，并杀死了一切能找到的格林斯基的家族成员。面对愤怒的大众，沙皇伊凡四世立誓将惩办格林斯基家族，这才平息了这场混乱。
这次的暴动吓坏了伊凡四世，他得出一个教训：必须亲自行使权力来治理国家！然而一切都还是处于酝酿之中。
1560年，伊凡四世的皇后阿娜斯塔西·格林斯卡娅暴病身亡。实际上皇后死于投毒。400多年后的21世纪初，俄罗斯的科学家们打开了格林斯卡娅皇后的棺椁，采样阿娜斯塔西的头发进行了化学化验，发现体内有大量的铅、汞和砷，这就证明了伊凡四世的皇后确实是被投毒谋杀的。丧妻之后的伊凡四世对周围近臣和贵族们逐渐变得憎恨起来。本来就时时盘算如何巩固君权、削弱贵族势力的伊凡四世变得烦躁暴戾，开始对大臣们斧钺相向。
1562年，伊凡四世宣布“消藩”，直接剥夺了所有贵族的领地，宣布所有俄罗斯的土地为沙皇一人所有。此时的沙皇俄国是典型的封建制的君主集权国家，所有受分封的督军、贵族各自代表沙皇统治自己的领地，这样一来，失去领地的贵族们变成了依靠国家俸禄生活的“公务人员”，不但权力遭到剥夺，在经济上也陷入受制于沙皇的境地。于是，这一举动理所当然地招致了众多贵族们的齐声反对，在遭到镇压后很多贵族暗中联络波兰立陶宛王国，甚至个别激进的贵族们策划推翻伊凡四世，另立沙皇。这使得伊凡四世开始对贵族们采取严厉的镇压措施。
伊凡四世首先清洗了自己的近臣，提拔了一些本非贵族出身的大臣。正因为他们的非贵族出身，才获得了沙皇的信任。而这批近臣也不遗余力地依靠铲除王公贵族和朝中大臣，来博得伊凡四世的信任与欢心。在这批近臣中，最出名的就是名为格里高利·斯库拉托夫的御前侍臣，因其身材矮小，人送外号“矮子斯库拉托夫”。
1564年12月3日，伊凡四世离开莫斯科，前往莫斯科附近的小城亚历山德罗夫。在这里，伊凡四世向莫斯科的宫里发去手谕，指责莫斯科的主教和贵族们勾结波兰立陶宛王国，指责他们叛国，声称自己因此深觉受辱，宣布退位，不再当沙皇。但同时伊凡四世又没有指明谁来继承皇位。手谕传到莫斯科，朝中大臣们和主教均无言以对：众人皆知，伊凡四世的所谓叛国指控纯属凭空捏造，宣布退位却不指明继承人，是明摆着在做出姿态。但这些大臣又不愿做谄媚献谀之徒，不愿公开对伊凡四世歌功颂德，大表忠心，最后只好沉默，不做应对。
莫斯科群臣的沉默激怒了伊凡四世，他把这种沉默看成是对其不忠的表现。之后，伊凡四世宣布建立消藩区，并在消藩区属地挑选精壮青年，严加训练，建立了沙皇禁军。所谓消藩区，就是沙皇直辖区，在行政上直接受沙皇管辖。消藩区覆盖了莫斯科周围的几个城市，还有莫斯科城内的几条街道。在消藩区内，执行沙皇意志的只有禁军，禁军集司法、审判和执法于一身，而且只向沙皇一人负责。这就使得伊凡四世可以随时按照个人意愿，逮捕任何一个人，不经任何司法程序随意定罪，加以处置。
伊凡四世在基本清除了他认为的贰臣之后，又回到了莫斯科。这时候伊凡四世的独裁权力达到了顶峰，全俄罗斯上下噤若寒蝉，无人敢于发表任何与沙皇相左的言论。
在贵族们集体失声之际，只有代表神权的教会，敢于公开反对沙皇。1568年，德高望重的都主教菲利普拒绝支持伊凡四世的消藩制度，并多次声言沙皇的举动是逆天而行，不符合基督教义。残忍的伊凡四世并未因为都主教德高望重、以上帝名义代言就有所忌惮，暴怒之中下令将菲利普都主教投入监狱，次年被“矮子斯库拉托夫”扼死在狱中。
对贵族们大肆杀戮之后，伊凡四世并未罢手，清洗和镇压浪潮被沙皇禁军进一步放大。根据密报，伊凡四世认为诺夫哥罗德暗中和波兰立陶宛王国勾结，图谋叛变，于是派禁军前往该城，大肆进行逮捕和处决，诺夫哥罗德被禁军血洗一空。
在巩固自己的皇权的同时，伊凡也开始向周边地区扩张，以扩张沙皇的版图。1552年，伊凡四世已经亲政六年，在成功推行一系列改革、加强中央集权、稳定内政之后，22岁的沙皇踌躇满志，决定继续祖辈和父辈未竟的扩张事业。他选定的第一个目标就是喀山汗国。
那时候，经祖辈、父辈两代的大力扩张，俄罗斯实际有效控制的领土面积已经和现代德法两国面积总和相当。领土北起卡累利阿半岛，西至普斯科夫-斯摩棱斯克-戈梅利-切尔尼科夫一线，与波兰立陶宛王国接壤；在西南方和克里木汗国接壤，边境线从库尔斯克、叶列茨一线直至伏尔加河和苏拉河汇合处；在正南方就是顿河草原，那里居住着大量各斯拉夫民族、高加索民族和鞑靼人组成的哥萨克人，再就是鞑靼人建立的诺盖大汗国和诺盖小汗国；在伏尔加河流入里海的入海口处是鞑靼人建立的阿斯特拉罕汗国；而向东，就是俄罗斯的老对手喀山汗国。
当时的俄军装备了16世纪的大规模杀伤性武器——火炮，相应地也建立了一个新的军种——炮兵，一跃成为欧洲最强的军队之一。经过数年经营，俄军拥有了数量庞大的火炮。据记载，俄军每次发动大型战役，至少要出动上百门大炮。原来在中世纪时期建造的不可逾越的高大坚固的城墙，现在已经挡不住俄军大炮的轰击。除此以外，伊凡四世还下令铸造了重炮，这种大炮竟然重达数吨，每个炮弹的重量达到上百公斤。每当战场上俄军炮声轰鸣，往往能给敌方军队造成巨大的心理震撼。
伊凡四世下令铸造的这批火炮不但威力巨大，而且服役寿命超常。每门大炮的服役年龄长达数十年，个别火炮竟然到17世纪时仍在使用。
喀山汗国事是昔人建立的封建国家，由于地处交通要道，贸易繁荣、土地肥沃、物产富余。每当莫斯科忙于内乱时，喀山汗国屡屡侵袭莫斯科东部边境城镇，主要的侵袭目标就是诺夫哥罗德、维亚特卡、弗拉基米尔、科斯特罗马等城镇。伊凡四世决定亲征喀山，目的不仅仅是让喀山俯首称臣，成为藩属国，而是彻底征服，把喀山并入俄国领土。为了达到这个目的，伊凡前后共三次出征喀山汗国。前两次东征因为天气原因和兵力不足而失败。
1552年10月份，伊凡四世率军第三次亲征喀山汗国。这一次伊凡四世带了一支15万人的庞大军队，另外配备了150门火炮。8月下旬，俄罗斯军队直逼喀山城下。喀山守军不过三万，只要火绳枪，但喀山军民不畏，抖擞精神反抗。经过一个月的攻城战，俄军仍然不克破城。这时，伊凡想出一计，他命人从城外抓来340人作为人质，押到城下要挟喀山守军投诚。可喀山守军拒不投诚。恼羞成怒的伊凡下令在城下处整批人质。随后，俄军又发动了更为剧烈的进攻。喀山军民勇猛不平，誓逝世抗敌。俄军每行进一步，都要支付很大的代价。最后，俄军毁坏了地下水道，切断了喀山水源，并花了10天挖开一条直到城墙底下的200米的秘密通道。俄军炸毁一段城墙后，冲进城内。10月2日，喀山城终究被霸占。喀山守军大部分被杀，妇女、儿童被俘，财物被劫，寺宇被焚。喀山汗国被纳俄罗斯进的版图，伊凡四世立即立即自称“喀山沙皇”。
灭掉喀山汗国是俄罗斯历史上重大的转折点，标志着从此以后俄罗斯力量强于蒙古鞑靼人的力量，攻灭喀山之前蒙古鞑靼人的力量强于俄罗斯的力量，攻灭喀山改变了俄罗斯人与蒙古鞑靼人的力量对比。而且，攻灭喀山汗国，为俄罗斯越过乌拉尔山脉吞并地域辽阔的西伯利亚扫平了道路。为了纪念这次胜利，伊凡四世下令修建一座最完美的教堂，这就是今天的圣瓦西里大教堂。
之后，伊凡又占有了伏尔加河下游的阿斯特拉罕汗国。为了争夺波罗的海的出海口，沙皇俄国同这一地区的邻居们展开了旷日持久的战争。获得波罗的海的出海口，不仅仅是一般意义上的领土扩张，而是具有巨大的战略和经济利益。伊凡四世时代，俄罗斯的边境线是楚德湖北岸和拉多加湖西岸，边境线与芬兰湾平行，距俄境到芬兰湾最近处仅70余公里。如果俄罗斯能够在芬兰湾建立一个港口，就可以贯通整个北方通商路线，自行出海，到英国、丹麦进行自由贸易，而不必途经波兰立陶宛王国或者瑞典；其次，没有港口城市，就无法建立起强大的海军，也就无法保证俄国在这一地区的政治存在。
1556年阿斯特拉罕汗国也被吞并，然后又吞并了大诺盖汗国和巴什基尔亚，使北高加索许多民族归顺俄罗斯，伊凡四世时期，俄罗斯开始成为多民族国家。
到1557年，西伯利亚汗国也臣服于伊凡并于1579年被占领。1572年粉碎了被称为“奥斯曼土耳其之鞭”的克里木汗国政权。当时奥斯曼土耳其处于鼎盛时期，侵略的阴影笼罩着整个东欧，而粉碎克里木汗国给奥斯曼土耳其的迎头痛击，挫败了奥斯曼土耳其统治俄罗斯及东欧的图谋。
1556年，俄军向瑞典发动了进攻。战争持续了一年，以双方签订《诺夫哥罗德和约》而告终。这场战争没有给伊凡四世带来任何实际结果：双方边境线依旧，各自归还了对方的俘虏。唯一值得注意的一点是，瑞典无条件放回了俄军战俘，而俄方只在收到瑞典的赎金后才归还了战俘。
1558年，伊凡四世向立窝尼亚发动进攻。战争开始后，俄军节节胜利，连下四城，立窝尼亚骑士团遭到沉重打击。战争持续到了1559年，立窝尼亚实际已经不复存在，其领土被划入波兰立陶宛王国、瑞典和丹麦三国的势力范围。
当时的欧洲各国广泛流传着关于沙皇俄国的各种可怕的传说，欧洲人，从平民百姓到王公君主们很少有人到过莫斯科，道听途说的结果就是把俄罗斯想象成半开化的国家，把俄罗斯人想象成茹毛饮血的野蛮人。可以说，欧洲是把俄罗斯和鞑靼、奥斯曼土耳其相提并论的。
俄罗斯在波罗的海沿岸的军事行动引发了欧洲的恐慌。接下来波兰立陶宛王国、瑞典和俄罗斯之间的战争就不可避免了。原本即将以俄军胜利告终的立窝尼亚战争变得长期化，参战各方停停打打，不断地和谈、开战，就这样战争一直持续到了1583年。最终俄罗斯也没能获得波罗的海的出海口，持续25年的立窝尼亚战争不但没能达到预期目标，反而以俄罗斯西北领土上的六座城市被瑞典占领而告终。
1598年，俄军打败了库楚姆汗，库楚姆汗逃到大草原后不久身亡。至此，沙俄最终征服了西伯利亚汗国。叶尔马克的远征揭开了俄国向西伯利亚大规模扩张的序幕，到17世纪30～40年代，沙俄的侵略势力已经跨越了叶尼塞河，到达勒拿河、楚科奇半岛和鄂霍次克海。
在生活中，伊凡四世的残忍同样被记载了下来。据说伊凡四世曾有众多妻子，史书上正式记载的就有七个或八个。按照东正教规定，沙皇只能三次成婚，其他的妻子均为非法，得不到教会的承认。在十月革命前，结婚生子等民政不是由行政部门来负责，而是教会才有权力承认婚姻是否合法和有效。
伊凡四世的第一个妻子阿娜斯塔西在1560年夏被毒害致死后，伊凡四世于次年再婚，但很快第二个妻子也死掉了。此后伊凡四世的第三个妻子还未及成婚就死了，他就这样频繁再婚，直至第八个妻子。
教会只承认伊凡四世的前四个妻子是合法的。这四个妻子都是在教会承认后才正式被宣布为皇后。伊凡四世的频繁再婚在当时是很不同寻常的。