Najstarsze znane teksty w których pojawia się greckie słowo ekklesia (po polsku kościół) to pisma chrześcijańskie pochodzące z przełomu pierwszego i drugiego wieku. Pisma te mówią o centrach organizacyjnych jakimi były kościoły i gminy lecz opisuj także Kościół jako zespół gmin które utrzymują między sobą łączność dzięki kontaktom osobistym i korespondencji. Znaczny wzrost szybkości rozprzestrzeniania się chrześcijaństwa w cesarstwie rzymskim miał miejsce w IV wieku . Popularność jaką zaczęła cieszyć się ta religia skłoniła cesarstwo do wydania dwóch ustaw. Cesarz Konstantyn I Wielki wydał w 313 roku edykt (zwany mediolańskim), który wprowadził równouprawnienie chrześcijaństwa i innych religii. Teodozjusz Wielki zakazał w 392 roku wyznawania pogaństwa i odtąd w cesarstwie istniała tylko jedna religia popierana przez państwo a było nią chrześcijaństwo. Na początku chrześcijaństwo rozwijało się W ośrodkach takich jak Rzym, Korynt, Konstantynopol, Aleksandria, Efezi Antiochia. Potem obejmowało coraz większy teren, by objąć cały kontynent w XIII wieku, na który to wiek przypada szczyt potęgi papiestwa i Kościoła.
W IV wieku rozpoczął się proces przekształcania się kościoła w instytucje zhierarchizowaną. Znaczenie biskupa Rzymu znacznie wzrosło tak, że inni biskupi cesarstwa zaczęli by mu podlegli. W czasach średniowiecza dla biskupów Rzymu zastrzeżony został tytuł papieża, który to wyraz jest pochodzenia greckiego i oznacza ojca. Biskupi Rzymu posiadali pierwszeństwo jeśli chodzi o rozstrzyganie kwestii dotyczących wiary. Zwykle jednak najbardziej istotne decyzje były podejmowane przez synody. Synod może oznaczać zebranie najważniejszych duchownych małego obszaru albo też sobór powszechny zebranie w którym uczestniczą wszyscy kardynałowie i biskupi na którym zapadają decyzje w sprawach religijnych. Uchwały podjęte przez sobór wyznaczają kierunek w jakim rozwijać będzie się kościół i obowiązują wszystkich wierzących. W 325 roku odbył się sobór w Nicei na którym podjęto decyzje w sprawie kształtu struktury kościoła w cesarstwie. Każde miasto miało posiadać biskupa który przewodniczyłby zamieszkującym je chrześcijanom. Kilka miast stanowić miało prowincje kościelną, a jedno z nich zostawało stolicą prowincji. Biskup takiego miasta był zwierzchnikiem innych biskupów z jego prowincji. Różnice między kościołem wschodnim i zachodnim ujawniły się już wtedy, w IV wieku. Hierarchia kościelna na zachodzie potrzebowała dużo więcej czasu by zacząć sprawnie funkcjonować.
Głównym problemem z jakim zetknął się kościół w IV wieku, była sprawa chrystianizacji Rzymian. Niechęć okazywana nowemu wyznaniu była dość powszechna wśród rzymskich patrycjuszy. Na początku chrześcijaństwo była przyjmowane głównie przez ludzi z niższych warstw społeczeństwa. Jednak w niedługim czasie sytuacja odwróciła się o 180 stopni, nawet porównując ją do sytuacji jaka panowała na początku IV wieku. Teraz to poganie zaczęli być prześladowani przez chrześcijan. Drugim z problemów był konflikt o to który patriarcha jest najważniejszy. Pozycja stolicy Imperium Rzymskiego była znacznie osłabiona przez wydarzenia takie jak inwazje barbarzyńców, rozpad cesarstwa, znaczna liczba pogan. Honorowy prymat Rzymu nie był kwestionowany przez nikogo spośród biskupów wschodu. Problemem były pojawiające się rozbieżności między kościołem wschodnim a zachodnim. Rzymowi jako stolicy chrześcijaństwa wyrastali rywale w postaci Konstantynopola, Aleksandrii i Antiochii.
Ważne wydarzenie miało miejsce pomiędzy 366 a 384 rokiem. Wtedy to papież Damazy zlecił świętemu Hieronimowi dokonanie translacji Biblii na odmianę łaciny: Wulgata, używaną przez zwykłych ludzi. W znacznym stopniu przyspieszyło to przyjmowanie przez nich chrześcijaństwa. Tłumaczenie to stało się także podstawą dla kolejnych translacji Biblii.
Walki gladiatorów, główna rozrywka mieszkańców imperium, zostały zakazane. Od IV wieku datuje się rozwój obrzędowości, która często była uświetniana różnorakimi ceremoniami. Niektóre z nich przywodziły na myśl dawne ceremonie ku czci pogańskich bożków. Zaczęła się także rozwijać sztuka sakralna. Do tego czasu występowała ona tylko pod postacią dekoracji na grobach i w kapliczkach. W dekoracji kościołów zaczęto używać malarstwa do przekazywania treści religijnych. Był to tak zwany Katechizm dla niewykształconych w piśmie. Nieumiejący czytać mogli odtąd czerpać informację o wierze z obrazów. Także rzeźbiarstwo zostało ściśle powiązane z wiarą. Kościoły budowane przez Konstantyna i jego następców były konstruowane inaczej niż świątynie pogańskie. Na potrzeby kultu religijnego adaptowano konstrukcje bazyliki, które to budynki służyły dotychczas rządzącym jako miejsce gdzie wykonywano czynności publiczne. Odmiennie też od pogan, którzy modlili się przed swoimi świątyniami, chrześcijanie zbierali się wewnątrz budynków. Stąd też powstało nowe wywodzi się słowa kościół, które oprócz wspólnoty wiernych zaczęło oznaczać także świątynie.
Zachodnie cesarstwo rzymskie upadło w V wieku, podbite przez barbarzyńców. Wiązało się to z masową wędrówką ludów i atakami plemion takich jak Wizygoci, Wandalowie, Burgundowie, Sfebowie, Alani. Po upadku cesarstwa przed Kościołem stanęło nowe wyzwanie jakim było nawrócenie na chrześcijaństwo plemion Germańskich. Bardzo szybko udało się kościołowi zdobyć silną pozycję w Galii, gdzie współpracowała z nim rządząca dynastia Merowingów. By wzmocnić swój autorytet władca z tej dynastii, Chlodwig, przyjął chrzest w 496 roku. Walczył on z innymi państwami stworzonymi przez barbarzyńców, którzy w przeciwieństwie do niego byli poganami, wyznawali arianizm. Dzięki temu otrzymał on poparcie cesarstwa wschodnio-rzymskiego. Korzystając z protekcji królów frankońskich, biskupi miast znajdujących się na terenie tego państwa umacniali swoją pozycję. Skupiali nadawane im obficie ziemie przy klasztorach, a rezydujący w nich mnisi zaczęli kontrolować główne środki produkcyjne. Klasztory stawały się ważnymi ośrodkami, w których kwitło rzemiosło i wdrażano w życie nowe rozwiązania techniczne. Okoliczna ludność szukała w tych zbudowanych z cegieł i kamieni budowlach schronienia przed najazdami. W niespokojnych czasach, pełnych wojen i nieszczęść, klasztory zdawały się być oazami spokoju, w których życie było pełne ładu i stabilności a co najważniejsze spokoju. Mnisi starali się wzmocnić istniejący ustrój społeczny. W tym celu, by pokryć jego braki, prowadzili działalność charytatywną. Wiele szpitali, przytułków dla starych, chorych i niedołężnych powstało z ich inicjatywy. W ten sposób jeszcze bardziej zbliżyli się do ludzi. W przeciwieństwie do późniejszego okresu, za czasów panowania dynastii Merowingów przy klasztorach nie istniały szkoły. Odstępstwem od tej reguły była Anglia, gdzie od końca VI wieku rozwijały się przy klasztorach szkoły, do których uczęszczali synowie królów i możnowładców. Na polu kultury zawdzięczamy mnichom zachowanie się do naszych czasów dzieł literatury i filozofii klasycznej. Dzieła autorów takich jak Horacy czy Owidiusz były ratowane przed zniszczeniem i przechowywane w przy-klasztornych bibliotekach. Były one kopiowane przez mnichów zwanych kopistami, którzy przepisywali także egzemplarze Biblii.
W roku 568 Longobardowie najechali półwysep Apeniński zajmując jego północną i południową część. Rzym nie został zaatakowany tylko dzięki kłótni jaka wybuchła wśród nich. Od tego czasu obrona przed barbarzyńcami stała się priorytetem polityki papiestwa.
Prawdopodobnie jednym z najwybitniejszych papieży panujących w czasach po rozpadzie Imperium był Grzegorz I Wielki (590-604). Przeprowadził on wiele ważnych reform, takich jak wprowadzenie annatu czyli podatku wynoszącego 1/10 dochodów biskupów w danym roku oraz świętopietrza, które było podatkiem od świeckich. Majątki kościelne zostały odebrane prywatnym właścicielom a zyski z nich czerpane zaczęły trafiać do Kościoła. Za jego pontyfikaty rozpoczęło się nawracanie na chrześcijaństwo Brytanii (w597roku), a także Słowian, rządzących w Hiszpanii Wizygotów i Longobardów. Chorał gregoriański zawdzięcza swe powstanie właśnie temu papieżowi. Pomimo tych dokonań papiestwa, wiek ów zwany jest ciemnym. W tym czasie bowiem, z powodu ciągłych wojen, najazdów i rządów barbarzyńców, upadło szkolnictwo, coraz mniej ludzi umiało czytać i pisać. Tylko nieliczni wykształceni ludzie dysponowali wiedzą.
Zjednoczeni Longobardowie zdecydowali się uderzyć na Rzym pod koniec VIII wieku. By obronić się przed ich atakiem papież Zachariasz III poprosił o pomoc cesarstwo wschodnie. Jednakże w Bizancjum wybuchły w roku 726 wojny obrazoburcze, które skończyły się dopiero w 843 roku. Ówcześnie panujący cesarz Leon IIII zauryjczyk zabronił czczenia ikon poprzez wydając tak zwany edykt obrazoburczy. Efektem była wojna pomiędzy ikonodulami, ludźmi którzy bronili starych zwyczajów, i ikonoklastami którzy popierali edykt cesarza. Wojnę zakończyła dopiero cesarzowa Teodora. Wobec takiego rozwoju sytuacji w cesarstwie wschodnim, Rzym nie mógł oczekiwać pomocy z jego strony. Pomogli mu Frankowie pod przywództwem majordoma Pepina Małego, który sprawował faktyczną władzę w państwie (w tym czasie królowie z dynastii Merowingów tak naprawdę już nie rządzili). Gdy Pepin postanowił zostać królem, papież zdetronizował króla z dynastii Merowingów, Childeryka III (w roku 751). 3 lata później sprawujący wtedy pontyfikat papież Stefan II udał się do państwa franków i namaścił tam Pepina oraz ogłosił go królem. W podzięce, Pipin wyruszył do Italii i odbił ziemie zajęte uprzednio przez Longobardów. Na tych terenach utworzył tak zwaną Ojcowiznę świętego Piotra (patrimonium sancti Petri), zajmowała ona środek półwyspu Apenińskiego. Ziemie te stały się w przyszłości Państwem Kościelnym, które istniało do 1870 roku. Z niego to wywodzi się współczesne Państwo Watykańskie. Następcą Pepina był Karol Wielki, który wywarł duży wpływ na dzieje Kościoła w Europie. Jego ojciec, Pepin, rozpoczął reformę kościoła w państwie, która miała na celu wzmocnienie diecezji i parafii a także zwiększenie dyscypliny pomiędzy ludźmi kościoła. Prowincje i diecezje miały być odtąd poddane kontroli wysłanników cesarza (missidominici). Dnia 25 grudnia 800 roku papież Leon III koronował Karola Wielkiego na cesarza a Rzym został prowincją cesarstwa Franków. Rola kościoła w państwie była bardzo duża, ponieważ biskupi często łączyli funkcje kościelne ze świeckimi będąc urzędnikami. Opactwa pełniły ważne funkcje gospodarcze i administracyjne co skłaniało władcę do umieszczania w nich zaufanych ludzi. W efekcie kościół został uzależniony od władzy świeckiej i rozpoczął się proces zeświecczania duchownych. Także panujący w państwie Franków system więzi społecznych, na zasadzie lenna, powodował rozpadanie się struktury Kościoła. Duchowni tacy jak biskupi, opaci a często nawet proboszczowie przysięgali wierność (co nazywało się inwestyturą) świeckiemu suwerenowi jak wszyscy wasale. Po złożeniu przysięgi otrzymywali symbole urzędu: pastorał lub pierścień. Takie stosunki pomiędzy duchownymi a świeckimi doprowadziły do pojawienia się symonii czyli kupczenia stanowiskami kościelnymi. Przy wybieraniu ludzi na poszczególne stanowiska kościelne często preferowano członków własnej rodziny, był to tak zwany nepotyzm. Pojawiły się i inne znaki rozkładu: łamano zasadę celibatu (nikolaizm). Kościół zarabiał pieniądze na pielgrzymkach i kulcie świętych.
Powstanie zhierarchizowanej administracji kościelnej w państwie franków datuje się na czasy tak zwanego renesansu karolińskiego. Utworzono wtedy prowincje, diecezje i opactwa. Po raz pierwszy od upadku cesarstwa rzymskiego nastąpiło ożywienie w kulturze. Nauka i sztuka zaczęły się rozwijać, dotyczyło to na przykład poezji, historiografii i myśli politycznej. Liturgia kościelna została ujednolicona oraz powstało wiele nowych szkół przy-klasztornych. Zasięg tego odrodzenia kultury i sztuki nie był jednak duży. Tylko nieliczni ludzie, najczęściej ludzie przebywający w pobliżu możnowładców, zdobywali wykształcenie. Karol Wielki polecił zakładać szkoły przy wszystkich klasztorach i biskupstwach, w których uczyły się dzieci przeznaczone do stanu duchownego lub urzędniczego.
Wkrótce po śmierci Karola Wielkiego jego państwo rozpadło się na trzy części: przyszłą Francje, Niemcy i Lotaryngie. Dotychczasowa jedność polityczna została rozbita. Ucierpiała także więź łącząca poszczególne diecezje między sobą a także z Wiecznym Miastem.
W wiekach IX i X autorytet Kościoła podupadł. Obyczaje i sposób postępowania duchownych zaczęły przypominać te osób świeckich. Urzędy kościelne straciły swe wyjątkowe znaczenie i zaczęły być traktowane jak zwykłe posady. Pełniący je ludzie stawali się wasalami jak zwykli właściciele ziemscy.
W owym czasie doszło do rozpadu struktury władzy, proces ten zachodził zwłaszcza na terytoriach w dzisiejszych czasach zajmowanych przez Francję i Włochy. Na terenach tych praktycznie nieustannie toczyły się prywatne wojny pomiędzy poszczególnymi panami ziemskimi. W obliczu upadku władzy państwowej Kościół pozostał jedyną organizacją, która była w stanie przywrócić pokój i zaprowadzić porządek w tym chaosie był Kościół. Kościół posiadał jedną, bardzo potężną metodę oddziaływania na ludzi. Była to możliwość obłożenia klątwą. Każdy człowiek na którego została ona rzucona był automatycznie wykluczany za społeczeństwa. Sposobem w jaki Kościół wykorzystał możliwość rzucania klątw było ustanowienie tak zwanego "pokoju bożego". Był to okres czasu w którym nie wolno było toczyć prywatnych wojen (pod groźbą klątwy). Wprowadzono również azyl kościelny polegający na tym, że ścigany człowiek, jeśli udało mu się schronić w świątyni, nie mógł być zaatakowany.
Wielokrotnie starano się uzdrowić sytuację panującą w Kościele, jednak przeważnie kończyło się to niepowodzeniem. Dopiero w 910 roku w klasztorze Cluny wprowadzono w życie reformy zakończone sukcesem. Klasztor ten uwolniono od wszelkich zobowiązań wobec władz świeckich, Klasztor był odtąd podporządkowany wyłącznie papieżowi. Mnisi koncentrowali się na modlitwie ("wieczna modlitwa" z łaciny laus perennis). Mnisi propagowali odejście od symonii, nikolaizmu oraz traktowania władz kościelnych jak wasali przez panów. Reformy te objęły później około 2000 klasztorów znajdujących się we Francji, Niemczech i północnych Włoszech.
W X i XI wieku w zachodniej Europie dominowały dwa państwa. Był to: Królestwo Niemieckie, którego władca, poczynając od roku 962, nosił tytuł cesarza rzymskiego. Drugim z nich była Francja rządzona przez władców z dynastii Kapetyngów.
Jedność chrześcijan doznała poważnego uszczerbku w wyniku tak zwanej schizmy wschodniej mającej miejsce w 1054 roku. Doszło wtedy do podziału Kościoła na zachodni (pod przywództwem papieża), oraz wschodni (jego głową był patriarcha Konstantynopola). W strukturze feudalnej papież pozostawał lennikiem cesarza, a równocześnie sprawował zwierzchnictwo nad Kościołem bizantyjskim. Cierpiał na tym prestiż cesarstwa wschodniego. Poza tym obydwa Kościoły różniły się tym, że zachodni nawiązywał do tradycji łacińskiej a wschodni do greckiej. W sporze chodziło też o sprawy natury teologicznej. Przedmiotem konfliktu była sprawa pochodzenia Ducha Świętego. Na zachodzie uważano, że pochodzi on od Ojca i Syna, a na wschodzie, że od Ojca przez Syna. Konsekwentnie, na zachodzie uważało się, że naśladując Jezusa można osiągnąć zbawienie. Kluczem do tego było odpowiednie zachowanie. Tymczasem Kościół wschodni uważał, że jedyną drogą do zbawienia jest otrzymanie łaski bożej, a człowiek sam nie ma na tyle sił by go osiągnąć. W polityce, Kościół wschodni był podporządkowany państwu, a w tym samym czasie na zachodzie to papież miał przewagę nad władzą świecką. Różnice te przyczyniły się do powstania konfliktu, w efekcie którego papież i patriarcha rzucili na siebie klątwy.
W 962 roku papież Jan XII koronował króla niemieckiego Ottona I na cesarza rzymskiego. Od tego momentu cesarz niemiecki miał wpływ na wybór papieża. Wpływ ten był zgodny z wyznawaną przez Ottona I doktryną. Głosił on cezaropapizm, w myśl którego władza świecka powinna była stać wyżej niż władza duchowa. W 1058 roku wprowadzono zmiany w dotychczasowej metodzie wyboru papieża. Nowe zasady wymagały, by wyboru papieża spośród kandydatów dokonywało kolegium kardynalskie (konklawe). Dopiero potem cesarz miał zatwierdzić wybór. Poprzednio wybór papieża dokonywany był przez aklamację. Po raz pierwszy nowy system zastosowano w 1062 roku, kiedy papieżem został Aleksander II. Zmiany musiały prowadzić do konfliktu Kościoła z władzą świecką.
12 lat po wyborze Aleksandra II odbyło się kolejne konklawe. Nowy papież, Hildebrant, został okrzyknięty biskupem Rzymu przez jego mieszkańców, dopiero potem zrobiło to kolegium kardynałów, a następnie wybór został zaakceptowany przez króla niemieckiego Henryka IV. Nowy papież przybrał imię Grzegorza VII. Prezentował całkowicie odmienny pogląd na relacje państwo-kościół niż Otton I. W dziele "Dictatus Papae" przedstawił idee papo centryzmu, według której papież powinien był być zwierzchnikiem cesarza. Podczas synodu w Rzymie w 1075 roku, papież Grzegorz VII skrytykował nikolaizm i symonię. Wprowadził zakaz przyjmowania przez osoby duchowne godności od osób świeckich. Władcy, którzy praktykowaliby nadal nadawanie godności kościelnych mieli być obłożeni ekskomuniką. W tym przypadku zostaliby oni wyłączeni ze wspólnoty chrześcijańskiej. Reakcją Henryka IV było oświadczenie, że nie uznaje on wyboru Grzegorza VII, gdyż jego wybór nie był zgodny z prawem kanonicznym. W wersji oficjalnej stanowisko takie zaprezentowali niemieccy biskupi zebrani w Wormacji. W odpowiedzi na to, Grzegorz VII podczas synodu rzymskiego, dnia 13 lutego 1076 roku, rzucił na Henryka klątwę, oraz ogłosił, że zwalnia poddanych króla z przysięgi wierności mu złożonej. Król nie miał innego wyjścia jak tylko zawrzeć z papieżem pokój. By go uzyskać, był zmuszony udać się do Canossy, gdzie upokorzył się przed papieżem. Później jednak zdecydował się na kontratak. Po uporaniu się z opozycją wewnętrzną, Henryk IV mianował antypapieża. Następnie zajął Rzym, a "jego" papież koronował go na cesarza. Zmuszony do opuszczenia Rzymu Grzegorz VII udał się na południe kraju. Jednakże zwycięstwo Henryka IV było krótkotrwałe. Kandydat na papieża zaproponowany przez cesarza nie zdobył poparcia biskupów. Gdy zmarł Grzegorz VII, wybrali on na jego następcę Urbana II. Spór o inwestyturę pomiędzy cesarzem a papieżem toczył się do 1122 roku (konkordat w Wormacji). Zawarł go Henryk V z papieżem Kalikstem II. Henryk V zrzekł się świeckiej inwestytury duchownych. Odtąd wyborem biskupów i opatów miała zajmować się powołana do tego celu kapituła. Dopiero tak wybrany dostojnik składał przysięgę wierności cesarzowi. Cesarz mógł zadecydować o wyborze tylko w przypadku, gdy kapituła nie mogła podjąć decyzji. Postanowienia zawarte w konkordacie zostały potwierdzone podczas soboru powszechnego jaki odbył się w Rzymie w 1123 roku.
W trakcie wieku XIII przewaga Kościoła nad władzą cesarską osiągnęła swój szczyt. Ta ostatnia znajdowała się wtedy w stanie rozkładu. Wiek ten ujrzał najpełniejszą realizację zasady, iż władza świecka ma być podporządkowana władzy duchowej, a Kościół stoi ponad państwami. Klątwa rzucona przez papieża był najstraszniejszą rzeczą jaka mogła spotkać władcę, gdyż wtedy poddani nie musieli go słuchać. W wyprawach krzyżowych uczestniczyli nawet królowie. Okresem największej potęgi papiestwa był pontyfikat Innocentego III (1198-1216).
w XIII wieku zaczęto poprawiać poziom wykształcenia duchownych. Proces ten zapoczątkował papież Innocenty III, który w czasie soboru laterańskiego IV wezwał do masowej katechizacji wiernych. By to osiągnąć potrzebni byli wykształceni klerycy. Przy parafiach zaczęto organizować szkoły, które miały zajmować się początkową edukacją kleryków. Reformy laterańskie przyczyniły się do ujednolicenia praktyk religijnych w zachodnim chrześcijaństwie.
Styl romański w budownictwie był już powszechnie stosowany w XI wieku. Podczas konstrukcji budynków w tym stylu, podstawowym materiałem był kamień, sklepienia były kolebkowe lub krzyżowe. Kościoły budowano tak, że patrząc na nie z góry przypominały krzyż. Ze względu na funkcje obronne jakie miały także sprawować kościoły, okna w nich były małe i nieliczne. Styl romański w malarstwie przejawiał się przede wszystkim w miniaturach ozdabiających książki.
Roli jaką kościół odgrywał w średniowieczu nie można przecenić. Miał on duży wpływ na poglądy ówcześnie żyjących, którzy przyjmowali kulturę oraz styl życia propagowany przez duchownych Kościoła. Duże są zasługi Kościoła w szerzeniu oświaty wśród ludzi, w owych czasach był on jedyną organizacją, która nauczała czytania oraz pisania w przy parafialnych szkołach. Także fakt, że wiele osiągnięć myśli starożytnej dotrwało do naszych czasów, jest zasługą ludzi Kościoła. Oni to również sprawili, że łacina stała się językiem używanym podczas kontaktów międzynarodowych. Angażował się w działalność charytatywną tworząc i prowadząc wiele szpitali oraz przytułków. Pozycja Kościoła w większości dziedzin życia. Duże jego wpływy na politykę, zarządzanie państwem i obecność w najbliższym otoczeniu królów wynikała z faktu, że duchowni byli osobami wykształconymi. Kościół czasami wykorzystywał te wpływy dla własnych korzyści.
Pozycja Kościoła w średniowieczu została ugruntowana. Kościół stał się organizacją niezależną od władz świeckich, oraz odnalazł się w ówczesnej rzeczywistości. Uniwersalizm średniowieczny silnie opierał się na Wierze i Kościele. Ośrodki kościelne stały się centrami lokalnych społeczności. Władcy świeccy starali się pozostawać w dobrych stosunkach z Kościołem, a także stosowali się do rad duchownych przebywających na dworach.