Zakon Krzyżacki powstał w wyniku reorganizacji, której poddano 1190 roku istniejące w Jerozolimie od ok. 1145 r. niemieckie bractwo szpitalne, w celu umożliwienia sprawniejszej realizacji bliskowschodnich zamierzeń cesarskiej dynastii Sztaufów. W założeniu więc powstały Zakon Szpitala Najświętszej Marii Panny przy Domu Niemieckim w Jerozolimie miał się składać głównie z Niemców i rekrutować swych rycerzy głównie z terenów Cesarstwa.
Państwo krzyżacki powstało kilkadziesiąt lat później, w rezultacie dość szybkiego podboju ziem na których zamieszkiwały plemiona Pruskie. Prowadzony był on niezwykle sprawnie - najpierw posuwano się wzdłuż rzek i wybrzeżem morskim, dopiero następnie zaś w głąb lądu. Nie bez znaczenia była tu pomoc Europy Zachodniej, skąd przybywali krzyżowcy w celu wsparcia, dość jeszcze nielicznych wtedy, rycerzy zakonnych.
Gdy w 1226 roku książę mazowiecki Konrad I zakończył pomyślnie swe starania o sprowadzenie Krzyżaków do pomocy w walce z plemionami pruskimi, nie podejrzewał, iż ich celem może być stworzenie niezależnego państwa i ufał, że podbite ziemie należeć będą do niego, a Zakon zadowoli się częścią zdobytych terenów i podarowaną mu pierwotnie ziemią chełmińską, jako słusznym wynagrodzeniem za trudy walki. Pierwsi rycerze zakonni pojawili się tam ok.. 1230 roku, a niedługo później rozpoczęły się ich krwawe zmagania z Prusami. Zdobyte ziemie umacniali poprzez budowę grodów-zamków, będących zarówno punktami wyjścia dla dalszego podboju, jak i ośrodkami sprawnie administrującymi, pilnującymi posłuszeństwa podbitej ludności - tak powstał m.in. Toruń, Elbląg, Kwidzyn i Chełmno.
Przedmiotem pierwszego zatargu z jednoczonym właśnie przez Władysława Łokietka państwem polskim stało się Pomorze Gdańskie. Wprawdzie wezwani w 1308 roku na pomoc przeciw Brandenburczykom Krzyżacy przegnali najeźdźców, ale opanowanych ziem nie zamierzali wcale zwracać i zorganizowali na nich własną administrację, co zostało ukoronowane przeniesieniem siedziby wielkiego mistrza z Wenecji do Malborka.
Koronowany na króla polskiego Władysław Łokietek rozpoczął starania, mające na celu odzyskanie straconej prowincji, czego przejawem był odbywający się w latach 1320-1321 w Brześciu Kujawskim i Inowrocławiu pierwszy proces z Zakonem. Niestety pomyślny dla Łokietka wyrok owego sądu kościelnego (Krzyżakom nakazali on zwrot Pomorza oraz wypłacenie wysokiego odszkodowania) nie zestal uznany przez Zakon. Odrzucenie przez króla polskiego oferty odsprzedania praw do Pomorza wystosowanej przez państwo krzyżackie, jak i niepowodzenie dalszych starań na drodze sądowej [kolejnego pomyślnego wyroku z 1329 roku nie zatwierdził papież] zmusiły Polskę do podjęcia działań zbrojnych. Niestety w ich wyniku poniosła ona dalsze straty (1326-1332 r.) w postaci Kujaw i ziemi dobrzyńskiej, a na ogólny wynik wojny nie wpłynęło nawet zwycięstwo odniesione przez Polaków pod Płowcami (1331 r.).
Kazimierz Wielki po objęciu po ojcu tronu polskiego (1333) wstąpił wobec tego ponownie na drogę sądów polubownych, czego przejawem była próba rozsądzenia sporu przez króla czeskiego i węgierskiego, a następnie proces z Zakonem w Warszawie (1339). Stanowiły one wstęp do podpisania traktatu pokojowego w Kaliszu (1343 r.), dzięki któremu Polska odzyskała stracone w ostatniej wojnie ziemie, pozostawiając jednak Pomorze nadal w rękach krzyżackich. Pokój z Królestwem Polskim był Krzyżakom potrzebny by móc podjąć działania przeciw rosnącej w siłę Litwie.
Dużą porażką Zakonu było niepowodzenie w zapobieżeniu zawarciu unii między Polską a Wielkim Księstwem Litewskim w Krewie (14 sierpień 1385 r.), a następnie realizacji jej postanowień (ślub Jagiełły z Jadwigą i koronowanie go na króla polskiego), gdyż nie dość, że podważały one sam sens egzystencji państwa zakonnego, to jeszcze prowadziły do całkowitej zmiany układu sił i sytuacji w tej części kontynentu. Krzyżacy nie mogli więc uznać dokonanej chrystianizacji Litwy, a wielki mistrz odmówił przyjazdu do Krakowa w celu zostania ojcem chrzestnym Jagiełły.
Zakon uparcie dążył do podważenia powstałego między oboma państwami sojuszu i nie unikał bynajmniej zatargów z Jagiełłą, zdobywając ponownie ziemię dobrzyńską (1392 r.). Pretekstu do ataku na Litwę dostarczyło poparcie Witolda dla antykrzyżackiego powstania, które wybuchło na Żmudzi w 1409 roku. Polska stanęła twardo po stronie Litwy, wobec czego Krzyżacy wypowiedzieli jej wojnę i przeprowadzili atak na Kujawy i Wielkopolskę. Po odzyskaniu przez Polaków Bydgoszczy zawarto rozejm, ale obie strony przygotowywał się intensywnie do wojny.
W czerwcu 1410 roku wojska polsko-litewski dowodzone przez Jagiełłę i Witolda i wspierane przez książąt mazowieckich wkroczyły na teren państwa krzyżackiego. Stoczona 15 lipca 1410 roku na polach Grunwaldu bitwa, będąca jednym z największych starć zbrojnych średniowiecznej Europy, zakończyła się całkowitym zwycięstwem Polaków i Litwinów, czego nie udało się jednak do końca wykorzystać, gdyż zdobycie Malborka okazało się zbyt trudne. Podpisany w 1411 roku w Toruniu układ pokojowy nie był dla zwycięzców w pełni satysfakcjonujący mimo odzyskania Żmudzi, ziemi dobrzyńskiej i otrzymania znacznego odszkodowania.
Od tej pory Zakon znajdował się w defensywie, z czasem zaczął też przeżywać kryzys finansowy, który próbował przezwyciężyć zaostrzając politykę podatkową wobec miast pruskich, czerpiących znaczne dochody z handlu i wiążących się coraz bardziej z państwem polskim. Konsekwencją tego było powstanie w Kwidzynie w 1440 roku Związku Pruskiego, który kilka lat później skierował do króla polskiego, Kazimierza Jagiellończyka propozycję objęcia zwierzchnictwa nad zbuntowanymi przeciw Krzyżakom miastami pruskimi. Król polski wykorzystał nadarzająca się okazję przyjmując ofertę i inkorporując te ziemie do Korony. Było to jednoznaczne z wypowiedzeniem wojny Zakonowi - miała ona miejsca w latach 1454-1466, a w wyniku kończącego ją traktatu toruńskiego do Królestwa polskiego wracały: Pomorze i ziemia chełmińsko-michałowska, a także Warmia, Elbląg i Malbork (państwo krzyżackie miało odtąd rozciągać się na ziemiach nad Zalewem Wiślanym, a przebywający w Królewcu wielki mistrz miał być lennikiem króla polskiego).
Każdy nowy wielki mistrz był zobowiązany do złożenia w ciągu sześciu miesięcy przysięgi lennej, co stało się przyczyną nowego zatargu, gdy został nim Albrecht Hohenzollern, który odmówił wykonania tego zobowiązania i sprzymierzony z księciem moskiewskim zażądał zwrotu dawnych ziem zakonnych. Działania wojenne podjęte przez Zygmunta I starego trwały przez dwa lata (1519-1521) i doprowadziły do układu krakowskiego (1525) rozwiązującego ostatecznie kwestię zakonu krzyżackiego w Prusach poprzez jego sekularyzacje - odtąd księstwo Pruskie władane przez Albrechta Hohenzollerna miało być świeckim lennem polskim.