Nieodłącznym elementem świata Rzymian była armia, która od czasów republiki po schyłek cesarstwa przeszłą wiele zmian. W okresie republikańskim wprowadzono powszechny obowiązek służby wojskowej. Każdy obywatel zdolny do noszenia broni, posiadający majątek ziemski, w razie zagrożenia zewnętrznego  był zobowiązany do obrony granic.  Podstawową jednostką wojskową armii był legion. Ten zaś był podzielony na 30 mniejszych oddziałów tzw. manipułów, z nich tworzono linię bojową złożoną z trzech szyków. W każdym szyku były przerwy między poszczególnymi manipułami kryte przez manipuły kolejnego rzędu. Stosowany przez Rzymian szyk potrójny był bardzo groźny dla przeciwnika, obok ciężkozbrojnych walczyli w nim lekkozbrojni i jazda. Dwa pierwsze szeregi dysponowały oszczepami. Kiedy dwa pierwsze szeregi nie były w stanie pokonać nieprzyjaciela, do ataku rzucano trzeci szereg. Stąd określenie „doszło do użycia triarów”, co podkreślało wagę sytuacji.  Po wkroczeniu na terytorium wroga Rzymianie budowali warowne obozy, tzw. castra. Cechą charakterystyczną  armii rzymskiej była żelazna dyscyplina. Żołnierze pokonywali miesięcznie dystans 30 kilometrów z pełnym wyposażeniem (od czasów reformy Mariusza wynosiło ono 40 kg), uczono ich stawiania obozu, pływania, jazdy konnej, ale przede wszystkim sposobu walki. W razie niewypełnienia rozkazu legioniści ponosili surowe kary. I tak, za lenistwo, karano wyrzuceniem w nocy poza bezpieczny obóz. Za zaśnięcie na warcie delikwent otrzymywał gorsze racje żywnościowe, za dezercję karą była śmierć poprzez biczowanie. Za narażenie własnych żołnierzy  na niebezpieczeństwo, śmierć poprzez ukamienowanie, zaś z dezercję całego oddziału karano śmiercią co dziesiątego żołnierza. Oczywiście znamy również pozytywne strony armii, która zatrzymywała część żołdu legionisty, do czasu jego przejścia na emeryturę, wówczas dostawał on oprócz oszczędności, ziemię.  Za odwagę w czasie wojen przyznawano jako nagrody - wieńce, i tak: za uratowanie człowieka legionista otrzymywał wieniec z liści dębu, za ocalenie armii wieniec z trawy, zaś złoty wieniec w kształcie murów miejskich za wdarcie się na mury obleganego miasta. Istotną rolę przypisywano też insygniom, otaczanym wręcz boskim kultem, ich zguba była  dla Rzymianina prawdziwą tragedią. Można wyróżnić trzy rodzaje insygniów: orła (aquila), znak legionu, znajdujący się  w rękach I kohorty, signa czyli oznaczenia danej kohorty oraz vexillum, czyli znak oddziałów znajdujących się dalej od macierzystego legionu.

Ważne zmiany w armii rzymskiej przeprowadził Gajusz Mariusz, który objął stanowisko konsula w 107 r. p.n.e., by następnie w latach 104 -100 p.n.e. przeprowadzić reformę wojskową, Była ona konieczna ze względu na chaos i rozprężenie w armii. Gajusz Mariusz odrzucił obowiązującą zasadę powoływania do armii tylko obywateli rzymskich, którzy należeli do warstwy posiadającej. To przyczyniło się do zwiększenia liczny obywateli powoływanych pod broń. Od tej chwili do wojska brano również tzw. proletarian, czyli tych, którzy nie posiadali żadnego majątku. Za służbę otrzymywali oni  na starość nadziały ziemi. Dzięki temu armia rzymska, mogła być cały czas uzupełniana żołnierzami rekrutującymi się spośród warstw najbiedniejszych, liczących na poprawę losu. Od czasów Mariusza armia rzymska stałą się wojskiem zawodowym, lepiej przygotowanym do zadań wojennych niż wojsko rekrutujące się jedynie z obywateli.  Nierozwiązanie kwestii zaopatrzenia weteranów prze senat oddawało armię w ręce wodza, w którym żołnierze widzieli opiekuna swoich interesów. W konsekwencji,  armia stopniowo przestawała być jedynie narzędziem w rękach państwa, a zaczęła się przeobrażać w prywatne wojsko wodza. To doprowadziło do tego, że właśnie armia stałą się narzędziem walki z senatem. Mariusz podzielił  legiony na kohorty czyli mniejsze jednostki, o jednolitym uzbrojeniu. W armii po reformie Mariusza ważną rolę zaczęła odgrywać jazda, w której służyli głównie sprzymierzeńcy rzymscy.

Ważne zmiany w armii przeprowadził Oktawian August, który po zwycięskiej bitwie pod Akcjum w 31 roku p.n.e. przystąpił do jej reformowania. Przede wszystkim zapewnił sobie wyłączne prawo dysponowania siłami zbrojnymi państwa. Rozpuścił część wojska, liczącego wówczas ok. 500 tysięcy ludzi i osiedlił weteranów na terytorium rzymskich prowincji. Początkowo armia liczyła 18 tysięcy osób, a pod koniec jego panowania została zwiększono do 25 tysięcy. W całej armii służyło ok. 250 tysięcy ludzi, tylko połowa tej liczby przypadała na legiony, pozostali bowiem tworzyli tzw. auxilia, czyli oddziały posiłkowe.  Do legionów rekrutowano przede wszystkim obywateli Rzymu, zaś do formacji posiłkowych  obywateli mało zromanizowanych prowincji.  Oktawian August prowadził oszczędną politykę względem armii, nie przyznawał dodatkowych premii, nie schlebiał wodzom prezentami, co umożliwiało utrzymać tak liczne wojsko. Wojsko rozmieszczono w warownych obozach w pobliżu granic państwa, w Syrii, nad Renem, Dunajem, na kontynencie afrykańskim i w Hiszpanii. Za czasów Oktawiana Augusta sytuacja legionisty była dość dobra, po odbyciu służby w armii, czyli ok. 20-25 lat otrzymywał gospodarstwo, mógł się osiedlić i rozpocząć karierę urzędnika. Jednocześnie by utrzymać tak liczne siły zbrojne Oktawian August powołał w 6 roku n.e. skarb wojskowy. Wpływały do niego podatki potrzebne na utrzymanie armii, jednak gdy zaczęły ustawać podboje, będące źródłem bogactw Rzymu w skarbcu znajdowało się coraz mniej pieniędzy. Utrzymywanie wiec tak licznej armii było zbyt dużym obciążeniem dla Rzymu i przestało być opłacalne. Tymczasem armia, świadoma tego jak duży wpływ może mieć na rządy, zaczęła coraz częściej ingerować w sprawy wewnętrzne państwa  Jednocześnie obok armii zawodowej istniała gwardia pretoriańska, która liczyła ok. 16 tysięcy ludzi. Była lepiej opłacana a i służba trwałą o wiele krócej. Wkrótce też zaczęła odgrywać ważną rolę polityczną.

W okresie Cesarstwa, siły zbrojne zostały tylko nieznacznie powiększone. Żołnierze mieszkali w stałych obozach, które zostały rozmieszczone na granicach państwa. Ze względu na fakt iż służba w armii trwał kilkanaście lat, zakładali tam rodziny. Częstym zjawiskiem było powoływanie do wojska mieszkańców prowincji, którzy mieszkali w pobliżu obozów rzymskich. Dla których służba w wojsku a co za tym idzie możliwość awansu i wzbogacenia się była dla niektórych jedyną szansą poprawy położenia. Duże znaczenie zyskały specjalne oddziały tzw. numeri, w ich skład wchodzili obywatele mało zromanizowanych prowincji rzymskich. Jednocześnie znacznej rozbudowie uległ system fortyfikacji. Do najbardziej znanych  należą fortyfikacje w Brytanii, wzniesione za panowania cesarza Hadriana oraz między środkowym renem a górnym Dunajem. W okresie późniejszym wybudowano również wielki pas umocnień od górnego Eufratu aż na południe mający być zabezpieczeniem  terytorium Syrii przed napadami koczowników.

 Pod koniec okresu cesarstwa kryzys wewnętrzny jaki przeżywało imperium doprowadziło do tego, iż zreformowanie sił zbrojnych państwa było zadaniem koniecznym. Do dużego znaczenia doszły wojska najemne, w skład których wchodzili przede wszystkim Germanie. Konstantyn podzielił wojsko na dwie części. Pierwsza z nich zajmował się obroną granic, druga zaś stanowiła rezerwę, rozmieszczono ją  w niedalekiej odległości od granicy, w razie potrzeby miała być gotowa do walki. Na  czele armii stało dwóch dowódców, z których jeden dowodził piechotą, a drugi jazdą. Zaczęto tworzyć mniejsze oddziały liczące ok. 1000 lub 500 żołnierzy. Ogólna liczba wojska wynosiła 500 tysięcy. Utrzymanie tak wielkiej armii przez ludność cesarstwa stanowiło zbyt duży ciężar, było wręcz niemożliwe. Stało się jedno z domniemanych przyczyn upadku Imperium Romanum w świecie starożytnym.