最早大约在公元69年，有几个萨尔玛提亚高阶贵族提出，希望罗马帝国雇佣他们来服骑兵役，以保卫罗马帝国的边疆（诸如潘诺尼亚地区）。而他们则将得到居住的地方。但这一提议被罗马人拒绝。因为罗马人认为萨尔玛提亚人“太容易被贿赂而不值得信赖”。
不过这种想法也转变得很快。仅仅过了几十年，罗马人就开始大量雇佣萨尔玛提亚人以充当他们的辅助骑兵。
公元175年，罗马帝国“五贤帝”的最后一位——马克奥略留在击败了叛乱的萨尔玛提亚人之后，流放了大约8000名萨尔玛提亚骑兵。有5500名骑兵留在了不列颠加入罗马军队。一个世纪之后，至少还有500名萨尔玛提亚骑兵驻扎在不列颠。这些萨尔玛提亚骑兵还参加了对抗入侵的盎格鲁-撒克逊人的战争。甚至有英国历史学家将他们作为最早中世纪骑士的雏形，以及公元5世纪“亚瑟王”与“圆桌骑士”的真正原型。
▲较为轻装的萨尔玛提亚冲击型枪骑兵
当然，很多未加入罗马帝国的萨尔玛提亚人依然是罗马人的对手与敌人。公元374年，萨尔马提亚人的入侵几乎摧毁了罗马帝国两个分别来自西亚和潘诺尼亚的军团。
当时潘诺尼亚军团试图援助被萨尔马提亚人攻击的西亚军团，但两个军团未能充分配合，被萨尔马提亚骑兵各个击破。其实之前罗马军队也多次击败过萨尔玛提亚人。但显然，罗马人不大愿意越过多瑙河，去大草原上追击这些机动性强、拥有难于估计战略纵深的游牧部落。
这个时代，罗马人也开始出现了两种新兴骑兵。一般认为，罗马人的全具装重型骑兵是借鉴着帕提亚人的模式，而罗马人那些被称为contarii的不那么超重装的重型枪骑兵则复制着萨尔玛提亚人。和以前的罗马重骑兵不同，他们不再使用短矛和掷矛，而是使用双手用的康托斯骑枪。罗马军队里甚至出现了不穿盔甲与头盔，却使用双手康托斯骑枪的冲击型轻骑兵。可见萨尔玛提亚骑兵对罗马帝国影响之大。他们的龙旗，他们的鞍，他们的骑兵战术，将在公元4世纪之后直接影响罗马军队的整体结构。
▲重型的罗马晚期全具装骑兵
罗马帝国在公元2世纪之前的“五贤帝”阶段达到了军事、社会等各方的极盛，成为世界上影响最大及最强盛的帝国之一。在“五贤帝”的最后一位马可奥略留死后，这种看似永远强大的帝国出现一些衰落与混乱的迹象：皇帝经常在政变中身亡，军事叛乱频繁发生并规模越来越大，这也就是后来所称的“3世纪危机”。
所幸，罗马人凭借强大的国家实力，在一些或强大，或狡猾——诸如赛维鲁、“世界光复者”奥勒良这样，具备在极度危机时刻力挽狂澜能力的君主领导下，通过一系列东征西讨的平叛，让罗马不至于在危机中陨落。
▲罗马帝国“世界光复者”奥勒良大帝
其实在公元3世纪末期，罗马皇帝戴克里先即位之后，才真正将罗马皇帝的元首制度改为真正的君主制度，并在公元293年实行四帝共治。公元324年，君士坦丁一世皇帝在战胜了政治对手之后，成为帝国的主宰。他在公元330年，将博斯普鲁斯海峡西岸的拜占庭城扩建成巨型城市。这里成为罗马帝国的新首都，也就是君士坦丁堡。这一般也被看成是东罗马帝国，即拜占庭帝国的开始。
这个时期，罗马陆军的编制较元首时代出现了重大变化，主要分成三种类型：
一是帝国护卫军（也有译为直卫军）代替了原先经常发动叛乱的帝国禁卫军。不同于禁卫军，帝国护卫军往往规模非常大，有可能达到2-3万人，而且全是装备精良的军队，并包括大量的精锐骑兵。通常这些部队都在皇帝的亲自指挥下，也不限于保卫皇帝的安全。也许是考虑到2-3世纪非常频繁的叛乱，帝国护卫军的主要被皇帝用来防范篡位者，而其庞大的军队人数就足以让心怀叵测者望而生畏。如果真的发生叛乱，往往帝国护卫军单独就可以镇压。这种帝国护卫军在8世纪之后的拜占庭时期成为“帝国卫队”，虽然名称叫卫队，但实际上确是人数达到几万人的精锐部队。帝国护卫军的另一个作用就是陪同皇帝，参加对外战争中的重大战役，或者击退大规模的蛮族入侵。
▲晚期罗马帝国直卫军重步兵
第二种是野战军。他们与帝国护卫军其实很相似。广义上说，帝国护卫军在君士坦丁一世之后，也属于野战军的一部分，所以也人有译为帝国野战军。野战军属于“移动式军队”，主要用途是作为机动部队，支持边防军的防务。
第三类就是边防军，他们的职责就是防备单一的行省。
一般来说，传统观点认为，早期帝国阶段，军队主要是由边防军构成的。但在3世纪后，整个罗马的防线过于绵长，而大迁徙时代日益增长的边境压力，也使得分散的边防军很难有效防御。当时帝国缺少机动部队，也缺少后备军事力量，往往只有皇帝的卫队可以机动调遣。
于是，戴克里先曾大力强化边防军，并创立了野战军。君士坦丁一世则将边防军加以削弱，而将野战军大力增强，这样可以部署在内部，作为战略预备队，反击蛮族的入侵。但最新的学术资料显示，野战军之所以布置在内部，最大的作用还是为了防备篡位者。
在三种军事力量编制之外，罗马军队中最高等级的是斯科拉瑞骑兵（scholares，可译为御林骑兵或教导军团）。他们相当于皇帝陛下的私人卫队，由君士坦丁一世所创建，全部由精锐骑兵组成。但需要注意的是，这个时代的斯科拉瑞骑兵，并非是延续至拜占庭帝国公元8世纪以后闻名遐迩，由全具装重骑兵组成的最精锐的攻击型帝国卫队。刚建立的斯科拉瑞骑兵仍是一支旧式的，但装备精良的罗马重骑兵。他们装备诸如元首时代的锁子甲、大型盾以及短骑矛。他们在这个时代处于指挥系统之外，职责主要还是在军事行动中保护皇帝的安全。
▲君士坦丁一世与他背后旧式的斯科拉瑞骑兵
但总体而言，3世纪的动乱所产生的破坏与瘟疫仍沉重地打击了帝国的税收基础。政府发行越来越贬值的罗马银币，导致了疯狂的物价飞涨。货币经济的崩溃导致军队只能通过直接的粮食征收来获得供应。
这个时期的的罗马军队，已经严重依赖雇佣兵，并且士兵们的薪水较2世纪少得多。帝国公民在军队中的比例越来越少，大量的蛮族士兵进入以前只有罗马公民才能进入的重步兵军团。至4世纪中期，蛮族出身的士兵大约占据了罗马军队总人数的四分之一，在精英军团中，甚至达到了三分之一。进入5世纪后，大量掌握军事实权的蛮族将领与他们的军队，直接成建制的存在于罗马军团中。
到了4世纪中后期-5世纪初，东西罗马正式分裂之后，情况又有了新变化。斯科拉瑞部队本来共有12支，每支500人，有5支被分配到西部，7支被分配到东部。其中只有东部的其中两支斯科拉瑞部队是很特殊的：一支就是连人带马的全具装重型骑兵，另一支是骑射手。这两支部队是之前2世纪后期，萨尔玛提亚人与东方波斯萨珊帝国影响下的产物，而这种影响将在接下来的时代里被渐渐的扩大。之后，罗马的全具装重骑兵在斯科拉瑞部队中的比重越来越大，直至拜占庭时期成为御林骑兵的核心力量。那个时代罗马骑兵正处于变革期，旧式的罗马重骑兵依旧是主力，但骑兵部队装备较过去有所增强，且多样化，而且还新增了许多了专业单位。诸如具装的罗马冲击型重骑兵，及装备比较完善的骑兵射手。不仅是斯科拉瑞，其他军事编制中也有具装铁甲重骑兵出现。
▲罗马晚期帝国各种新式骑兵
罗马具装冲击型骑兵人与马均披挂重甲，只露出双眼。骑手的臂甲采用了特制的、波斯萨珊重骑兵式样的环臂甲，圆形薄铁片层层重叠，与身体的曲线完全贴合，并覆盖整个四肢。当时人记载，“那些被称为铁甲骑兵的，带着护面甲，身披金属胸甲和腰带。四肢被薄铁甲片完全覆盖，并且完全按身体的曲线非常巧妙的铰接起来。”
在战斗中，他们的核心战术就是使用强力冲锋，旨在指定的位置用压倒性的力量冲破敌军的阵线。在战斗中，他们或被布置在后阵作为预备队（诸如新式的全具装斯科拉瑞骑兵），或被布置在侧翼寻找机会给予敌人冲击。
▲晚期罗马帝国阅兵式中的斯科拉瑞具装骑兵
有趣的是，虽然这个时期罗马骑兵的种类丰富，但战绩看起来并没有改善。他们虽然在一些小规模战斗里取得了胜利，但在帝国晚期几次著名的大规模战役中，罗马骑兵留下了无能甚至懦弱的名声。甚至连号称最精锐的斯科拉瑞骑兵，也在一些重要的战役中表现得令人失望。
,
