亨利恢复教籍保住帝位返回德国后，集中精力整治内部，平息以鲁道夫为首的诸侯反对派，曾一度危及他王位的内部反抗势力逐一告灭。格列高利七世认识到情况有变，于1080年再次对亨利四世处以绝罚(破门律)，开除其教籍。亨利亦再度宣布废黜教皇，并任命一名敌对教皇克莱芒三世，随即率大军挥戈南下进军罗马(1084年)，准备以武力雪洗“卡诺莎之辱”。亨利四世成功地占领了罗马，在那里由伪教皇克莱芒三世加冕为神圣罗马帝国皇帝。
格列高利七世弃城南逃萨来诺，他向盘踞在西西里的诺曼人首领罗贝尔·吉斯卡尔求援。吉斯卡尔欣然从命。结果诺曼人确实赶走了亨利四世，但他们同时洗劫了罗马。格列高利七世在孤独中客死意大利南部的萨莱诺(1085年)。亨利四世很快面对着新的挑战叛乱，继任教皇维克托三世联合帝国诸侯攻打亨利。1105年，亨利四世被推翻并遭到囚禁。后来，亨利逃往列日，并在那里去世了，新任教皇帕斯卡尔二世下令不得为亨利四世举行葬礼。
教皇与国王的权力之争并没有结束，双方的继承者仍然各不相让，斗争又持续了十多年。1122年，在德意志西部的沃尔姆斯城，罗马教皇和德意志国王共同签署了《沃尔姆斯协定》：皇帝无权直接任命德意志境内的主教，而是在有皇帝或他的代表出席的情况下，由教士自己选举产生;主教的政治权力由皇帝授予，宗教权力由教皇授予，神圣罗马帝国的至尊是罗马城的教皇，而皇帝沦为二号人物。
卡诺莎之辱将此时欧洲社会政治与宗教力量的不平衡，以及二者之间的矛盾性表现得淋漓尽致。这种情况，直到16世纪英国宗教改革确立“王权至尊”才出现转机，但它对人民的影响却是无法回避的。