Swoją walkę o reformę Kościoła nowy papież rozpoczął już w 1074 roku na soborze wielkopostnym, gdzie wznowiono dekrety Leona IX i Mikołaja II przeciw symonii i klerogamii. Dokumenty te nakazywały, aby każdy duchowny wyświęcony w wyniku aktu symonii, winien być wykluczony z Kościoła, a każdy biskup, który kupił swą godność, ma ją złożyć pod karą ekskomuniki. Lud zaś ma nie uczestniczyć w mszach celebrowanych przez żonatych kapłanów. To nie mogło nastrajać pozytywnie kleru, zwłaszcza niemieckiego, do papieża. W swych założeniach wznowienie dekretów nie odnosiło się ani do możnych, czy do kleru, ale przede wszystkim do zwykłych ludzi, których Grzegorz usiłował wykorzystać do zdyscyplinowania duchownych. Dlatego dochodziło do scen, kiedy deptano hostie konsekrowane przez żonatych księży, atakowano duchownych, rzeczy najświętsze rzucano w błoto. Grzegorz dążył do skłócenia kleru z wiernymi, udało mu się to, ale za jaką cenę. Sam Henryk IV mimo, iż zobowiązał się do popierania dzieła reformy, nie zrobił jak do tej pory zbyt wiele.

Dalszym etapem wprowadzania reformy było ogłoszenie Dictatus Papae, które wskazuje, jak daleko według Grzegorza powinna sięgać władza papieska. W 27 lapidarnych zdaniach zawarty został program nowego papieża. W przypadku działalności czysto kościelnej, łamał istniejący od stuleci porządek hierarchiczny w Kościele. Bowiem życie religijne zostało poddane wszechwładzy papieża. Tak jak papież był następcą świętego Piotra, tak biskupi byli następcami Apostołów, których władza jest przekazywana od wieków poprzez symboliczne nałożenie rąk. Biskupi jako poddani papieża ułatwiali Grzegorzowi ingerowanie w sprawy metropolitalnej władzy arcybiskupów. Można tu zacytować słowa arcybiskupa z Bremy - Hamburga, Liemara według, których papież stał się niebezpiecznym człowiekiem, traktuje on biskupów jako zarządców swoich dóbr i rozkazuje im robić to, co mu przyjdzie do głowy. Właśnie Liemar, z powodu oporu przeciwko papieżowi został razem z Zygfrydem suspendowany. Opór biskupów widoczny jest już w 1074 roku w trakcie próby osądzenia biskupa Pibona z Toul przez arcybiskupa Udo z Trewiru i Hermana z Metzu oraz innych dwudziestu biskupów. Wyrok, który ustalili mówił, że papież złamał prawo zwyczajowe. Biskupi nie występowali przeciwko całości reformy. Byli zwolennikami dekretów zakazujących księżom posiadania żon, przeciwni byli tylko działalności papieża zmierzającej do ograniczenia ich roli. Z innego powodu mógł być niezadowolony niższy kler, dla którego żona była pomocą przy pracach polowych. Ksiądz parafialny musiał płacić daninę, dlatego posiadał mały kawałek ziemi, na którym pracował. Biskupowi nie ciążyło to tak bardzo.

Drugą stroną dokumentu Dictatus Papae była próba podporządkowania papiestwu całej Europy. Według tego dokumentu papież może zdetronizować cesarza, króla, księcia, może także unieważniać przysięgę wierności. Ta część dokumentu decyduje o jego nierealności i zbytnim zradykalizowaniu. Jest to przyczyna, dla której był on nie do przyjęcia dla możnych i władców, ponieważ nie tylko godził w cały system lenny, na którym opierała się ówczesna Europa, stwarzał przede wszystkim sytuację, w której władze w Europie sprawuje jeden człowiek - papież. Na to władcy nie mogli się zgodzić. Mamy tego przykład w trakcie prób podporządkowania papiestwu Anglii Wilhelma Zdobywcy, który owszem przyjął od papieża Aleksandra II Vexilium św. Piotra - chorągiew, pod którą Normanowie pożeglowali przez Kanał, zgodził się na daninę, ale o żadnej większej zwierzchności nie mogło być mowy.

Pontyfikat Grzegorza zakończył się jego osobistą klęską, której w głównej mierze był sam winien. Hasła reformy, które mówiły o naprawie kościoła, były piękne i chwalebne i co najważniejsze chwytliwe, ale zamierzenia podporządkowania świata jednej osobie, były nierealne, a poza tym doprowadzały do skłócenia ze sobą papiestwa i Rzeszy. Program reprezentowany przez papieża był zbyt rewolucyjny, obalał istniejący od wieków porządek, z jednej strony rozbijając istniejącą od stuleci hierarchię kościelną, z drugiej podważając podstawę ówczesnej Europy, czyli system lenny. Zwalniając od przysięgi, papież ingerował w sprawy między wasalem i seniorem, podporządkowując biskupów ingerował w sprawy arcybiskupstw. Papież nie mógł się pogodzić z istnieniem drugiej, równorzędnej siły, czyli Rzeszy. Dążył do zgody, ale tylko do takiej, która będzie wynikiem wprowadzenia porządku papieskiego. Można się zapytać: czy było możliwe stworzenie "Państwa Bożego" w tamtejszej Europie? Przecież Robert Guiscard, zwany Terror mundi, Wilhelm Zdobywca, ludzie, którzy byli postrachem dla całej Europy, nie chcieliby podporządkować się komukolwiek. Grzegorz próbował osiągnąć swój cel poprzez rzucanie ekskomuniki na wszystkich swoich wrogów, ale z czasem miała ona coraz mniejsze znaczenie, doprowadzała tylko do zwiększenia i tak już pokaźnych szeregów wrogów papieża. Grzegorz nie potrafił również wykorzystać nadarzających mu się okazji do zwycięstwa: Tibur, Canossa są porażkami papieża, który traci szansę zdruzgotania swego przeciwnika. Z tym zarzutem wiąże się sprawa niekonsekwencji w popieraniu sojuszników, czyli opozycji saskiej. Grzegorz z jednej strony, jako wróg Henryka, popierał dążenia Rudolfa Szwabskiego do korony, z drugiej widział na tronie wcześniej panującego władcę, który nie ma na sobie piętna zdrajcy. Papież poniósł klęskę, ale zostawił po sobie dzieło reformy, które zostało w głównych zamierzeniach zrealizowane przez następców, Kościół został uwolniony od "chorób" symonii i klerogamii.