只是后来正值三教皇对立，神圣罗马帝国皇帝率军南下罗马，废黜了格列高利六世六世和两个伪教皇，重新扶植了德意志主教为新的教皇——克雷芒二世。

此后这几年时间里，希尔德布兰德从教皇机要秘书的位置上退下，悄然隐退，往克吕尼修院隐居。那时，克吕尼的院长是圣奥地禄，副院长是圣许格。

希尔德布兰德的原意，本打算在克吕尼终身修道，不料布鲁诺当选教宗——利奥九世，强邀他同往罗马，协助打理教廷事务。

传闻利奥九世曾三次亲自前往克吕尼修道院邀请希尔德布兰德出山辅佐他，这令他想起了三国时代辅助蜀汉两代君王的武侯诸侯亮，不得不说希尔德布兰德和诸葛亮之间颇有一些相似之处。

教宗利奥九世上台执政期内，希尔德布兰德被委以重任，负责掌理财政，协助教宗执行各项改革，特别是领导和推动克吕尼修院运动，他的功劳很大。

1054年希尔德布兰德被任命为副补祭，成为左右新教宗人选的关键人物。

同年1054年4月，利奥九世驾崩，希尔德布兰德以元老身分协助打理教务。

教皇利奥九世驾崩，希尔德布兰德原本凭借着自己的威望和能力，足以竞选成为新一任的教皇，有相当一部分人拥护他上台。

但希尔德布兰德却为了克吕尼修院改革，为抬高教宗的地位和对皇权进行斗争，他蛰伏爪牙，表示对教皇之位毫无兴趣，并亲自带领代表团前往德国，恭请亨利三世指定新教宗。

神罗皇帝亨利三会，选立了日耳曼人主教格加尔德维新的教宗——维克托二世。新教宗维克托二世对希尔德布兰非常感激，于是把他提升为枢机神品。

希尔德布兰德前后辅佐四位教宗，分别为维克托二世、斯德望四世、尼古拉二世和亚历山大二世，上述四位教皇凡遇有重要事务，都要咨询他的意见再做决断，由此可见他的能力和地位出众。

期间，1058年，希尔德布兰德帮助尼古拉二世上台后，随即被擢升为大副祭。