Po podziale w Verdun w 843 r. w Królestwie Wschoodniofrankijskim, które coraz częściej nazywać zaczęto Niemcami zaczęły zwyciężać tendencje separatystyczne i odśrodkowe. Było to spowodowane osłabieniem władzy królewskiej Karolingów oraz istniejącymi ciągle dawnymi strukturami i odrębnościami plemiennymi. Wzwiązku z tym Niemcy nie tworzyły zwartego, zintegrowanego i jednolitego państwa tylko konglomerat niezależnych, choć formalnie uznających zwierzchnią władzę królewską księstw terytorialnych. Do największych z nich należały: Saksonia, Frankonia, Szwabia, Bawaria. W 911 r. nastąpiła śmierć ostatniego z Karolingów na tronie niemieckim - Ludwika Dziecię. Jego następcą obrano władcę Frankonii Konrada. Korona niemiecka przekształciła się tym samym z dziedzicznej w elekcyjną. Konradowi nie udało się opanować tendencji odśrodkowych w państwie i po jego ośmioletnich rządach tron niemiecki objął Henryk I z dynastii Ludolfingów, która rządziła do tej pory w Saksonii. Rozpoczął on walki ze Słowianami w celu nabytków terytorialnych. W 933 r. rozbił w bitwie nad Unstrutą Węgrów, którzy zagrażali państwu niemieckiemu ciągłymi najazdami. Sukcesy te spowodowały, że po śmierci Henryka w 935 r. obrano królem jego syna Ottona.

Kościelna ceremonia namaszczenia i koronacji Ottona I odbyła się w Akwizgranie. Nowy władca nawiązywał w ten sposób do uniwersalnych tradycji monarchii karolińskiej i dawał sygnał, że jego polityka nie będzie ograniczała się do saksońskiego partykularyzmu.

W okresie panowania Ottona I Włochy podzielone były na wiele państewek i rozdarte walkami o władzę królewską. Chaos we Włoszech chciały wykorzystać południowe księstwa niemieckie - Szwabia i Bawaria, dla których objęcia władzy w Italii oznaczałoby wzmocnienia ich pozycji w Rzeszy. Otton I pragnął temu zapobiec i sam zdecydował się na interwencję we Włoszech. Poślubił Adelajdę burgundzką, wdowę po królu włoskim i w 951 r. wystąpił jako pretendent do korony włoskiej przeciwko aktualnemu władcy Włoch Berengarowi. Jednakże ze względu na wewnątrzniemiecką opozycję przeciwko jego władzy i zagrożenie kolejnym najazdem węgierskim musiał przerwać swą włoską wyprawę. Po powrocie do kraju Otton I bezkompromisowo rozprawił się z opozycją. W 955 r. zadał druzgocącą klęskę Węgrom na Lechowym Polu (nad rzeką Lech w okolicach Augsburga). Porażka Węgrów była tak dotkliwa, że zaniechali oni odtąd najazdów na ziemie niemieckie.

W 961 r. Otton I ponownie wkroczył do Italii. Pokonał Berengara, w Mediolanie koronował się na króla Włoch. Rok później w Rzymie został koronowany na cesarza. Podporządkował sobie także papiestwo. Według postanowienia Ottona I papieżem mógł zostać tylko ten kandydat, który przed objęciem tronu św. Piotra złożył przysięgę cesarzowi.. Byt polityczny stworzony przez Ottona w 962 r. w historiografii określa się jako Święte Cesarstwo Rzymskie Narodu Niemieckiego. Nazwa ta powstała znacznie później i odpowiadała nawiązaniom Ottona I do tradycji rzymskiej i do dominacji ludności niemieckiej w jego cesarstwie.

Otton I zmarł w 973 r. Po jego śmierci tron przejął jego syn Otton II. Na początku swego panowania musiał stawić czoło swemu poważnemu konkurentowi do władzy w Niemczech. Z roszczeniami do tronu wystąpił bowiem książę bawarski Henryk Kłótnik, przeciwnik zaangażowania cesarstwa w wojny we Włoszech. Pokonawszy Henryka i osadziwszy go w więzieniu Otton II próbował zrealizować plan ojca i podbić całą Italię. Zorganizował wyprawę na południowe Włochy, ale zakończyła się ona niepowodzeniem. Nagła śmierć w 983 r. nie pozwoliła mu na przygotowanie wyprawy odwetowej i na realizację dalszych planów.

Otton II zmarł w wieku 28 lat. Jego syn Otton III miał wtedy 3 lata. Pełnię władzy objął dopiero w 995 r., czyli w wieku 15 lat, po uzyskaniu pełnoletności. Do tego czasu, po uprzednim wygraniu sporu z Henrykiem Kłótnikiem o opiekę nad małoletnim Ottonem III, regencje sprawowała Teofano, a po jej śmierci wdowa po Ottonie I Adelajda.

Otton I pragnął stworzyć uniwersalne cesarstwo chrześcijańskie, które składałoby się z czterech części: Galii, Germanii, Italii i Słowiańszczyzny. Wszystkie te części posiadałyby swoich władców i równe prawa. Jednakże władza zwierzchnia zarówno w sprawach duchownych jak i świeckich należałaby do rezydującego w Rzymie cesarza. Koncepcja ta nie cieszyła się popularnością w Niemczech. Pozycja Germanii została w niej bowiem osłabiona. Do tej pory idea cesarstwa miała służyć niemieckim interesom i usprawiedliwiać niemiecką ekspansję. Teraz w myśl uniwersalnej koncepcji Ottona I w skład cesarstwa miały wchodzić różne ludy na równych prawach. Ponadto siedziba cesarza miała znajdować się w Rzymie, a nie w Niemczech. Rodziło to w Rzeszy opozycję przeciwko Ottonowi III. Z inspiracji Biznacjum doszło we Włoszech do powstania antyniemieckiego i Otton III musiał opuścić Rzym, w którym aktualnie przebywał. W 1002 r., w wieku 22 lat Otton III zmarł na malarię. Jego koncepcja została pogrzebana wraz z nim. Władzę w Niemczech przejął Henryk II Bawarski - syn Henryka Kłótnika, który na powrót sprowadził ideę cesarstwa uniwersalnego na grunt niemieckiej polityki imperialnej, czego przykładem były jego kolejne wojny z Bolesławem Chrobrym.