公元1057年，六岁的亨利（史称亨利四世）登上了德意志王国的王位。在那个时代，天主教主教的授职权实际上操纵在国王手中。为此，罗马教廷一直深怀不满。新国王即位后，罗马教廷乘国王年幼无知，根基未牢，提出教会独立的主张，反对主教由国王授权，借机扩大教会的势力，削减国王的权力。
1073年，新当权的教皇格里戈利七世在敕令中公开提出：教皇的权力高于一切，教皇不仅可以任免主教，也有权废除君主，有权审判和惩罚国王。却没人能够制约或审判教皇。亨利四世已经22岁了，年轻气盛的国王亨利四世当然不会甘心忍受教皇的颐指气使，于是双方的冲突发生了。1075年，亨利四世不顾教皇的敕令，委派了几个主教，填补缺位。教皇闻知此事后，立即致信亨利四世，要他考虑后果，严令他立即忏悔，并向教皇交上忏悔书。亨利四世不仅不理睬教皇的警告，反而在圣诞节刚过，新年到来之际，召开宗教会议，宣布废黜教皇。
教皇给予亨利四世更有力的回击，宣布剥夺国王亨利四世的王权，并将他开除出教会。这时，反对亨利四世的公候和高级教士趁机发出呼应。几个月后，他们又提出：亨利四世应暂时放弃国王权力，宣誓效忠教皇；如果在一年内亨利四世得不到教皇的赦罪令，他的王位将被废黜。
亨利四世一下子陷入腹背受敌的境地，他不得不签署服从教皇权力的保证书，并对自己的“严重罪行”进行忏悔。紧接着，反对亨利四世的势力又作出决议：定于1077年2月在德意志中部的奥格斯堡举行会议，并将邀请教皇出席，以共同裁判亨利四世。
当获悉教皇从罗马到了阿尔卑斯山南麓的卡诺莎城堡，等候德意志王国反对亨利四世的公侯派来的迎护军队，以便前去参加裁判会议时，亨利四世意识到了问题的严重性。
亨利四世换上普通服装，带上少数随从人员，翻过阿尔卑斯山，一路风尘地赶到了卡诺莎城堡。亨利四世跳下马，立即脱下皮帽和靴子，将一条毡毯披在身上，冒着鹅毛大雪，一步一步地走到教皇的宅第前。
这是亨利四世的忏悔形式。当时罗马教会允许被他们宣判的罪人以各种方式忏悔，比如自我杖责、捐纳巨款、赴圣地朝拜。赤足露顶地哀恳等等，以求得教会的赦免。亨利四世正是选择了在隆冬时节赤足露顶向教皇直接哀恳这种忏悔方式。整整三天，教皇都没有理睬他。第四天，亨利四世还是站在风雪中痛哭流涕，乞求教皇赦免他。
许多教士被亨利四世的真诚所感动，纷纷向教皇代乞。教皇余怒未消，但碍于多人求情，勉强传亨利四世进来见他。亨利四世感激不尽地匍匐而进。这个青年国王此刻威风扫地，一副可怜相。
比亨利四世大十岁的教皇格里戈利七世，望着这个乳臭干却胆敢跟自己分庭抗礼的国王，怒不可遏。他控制住自己，威严地说道：“我已经以上帝的名义革除你的教籍，剥夺你的国王权力。你是一个罪人，还有何脸面来见我？”
亨利四世诚惶诚恐地俯伏在地上，向教皇忏悔自己的罪过，泪流满面。他又呈上自己服从教皇权力的保证书和宣布撤销关于废黜教皇法令的命令书。
教皇并不满意，他严厉地训斥亨利四世，历数他的种种罪行。亨利四世一一点头认罪。看到曾经趾高气扬的国王如今可怜到如此地步，红衣主教、大主教和一些贵族，纷纷求教皇赦免亨利四世。教皇终于松了口，同意不将亨利四世逐出教会，但仍不恢复其国王的权力。他要求亨利四世当众写下效忠教皇的誓词。亨利四世当即写出誓词，宣誓遵照教皇的旨意痛改前非。
卡诺莎之行的屈辱并没有挽回亨利四世的权力和安宁。当他回到德意志时，反对势力已宣布他被废黜，新的国王已经选出，并竭尽全力争取教皇的支持。亨利四世则立即组织武装讨伐。
1080年，教皇借口亨利四世违背他的命令，革去亨利四世的教籍并废黜其王位。亨利四世立即作出反应。他指使支持他的宗教会议通过决议，再次宣布废黜教皇。当年，亨利四世还率军彻底击败了反对势力选出的新国王及其军队，牢牢地掌握了政权。
不久，亨利四世为报卡诺莎之辱，出兵意大利，讨伐教皇。1084年，亨利四世的军队攻陷罗马城，教皇仓皇出逃到意大利南部。随即，罗马教廷被迫加冕亨利四世为“神圣罗马皇帝”。1085年，罗马教皇在寂寞中死去。二十一年之后，亨利四世在他的王位上死去。但教皇与国王的权力之争并没有结束，双方的继承者仍然各不相让，斗争又持续了十多年。
1122年，在德意志西部的沃尔姆斯城，罗马教皇和德意志国王共同签署了一个宗教协定。协定的主要内容是：德意志境内的主教将不再由皇帝直接任命，而是在有皇帝或他的代表出席的情况下，由教士自己选举产生；主教的政治权力由皇帝授予，宗教权力由教皇授予。这就是历史上有名的“沃尔姆斯宗教协定”。
至此，罗马教皇与德意志国王之间长达半个世纪之久的权力之争才告一段落。