Сарматы считались прекрасными воинами, широко распространено мнение, что именно они создали тяжёлую конницу, их оружием были мечи и копья. Появившись сначала в Нижнем Поволжье, сарматский меч, длиной от 70 до 110 см, вскоре распространился по всем степям. Он оказался незаменимым в конном бою.
Сарматы были серьёзными противниками для своих соседей. «…у сарматов имеет значение не один голос вождя: они все подстрекают друг друга не допускать в битве метания стрел, а предупредить врага смелым натиском и вступить в рукопашную» (Корнелий Тацит). Однако сарматы редко появлялись перед врагами пешими. Они всегда были на конях. «Замечательно, что вся доблесть сарматов лежит как бы вне их самих. Они крайне трусливы в пешем бою; но, когда появляются конными отрядами, вряд ли какой строй может им противиться».
Сарматы были очень ловкими воинами. Сарматы-воины были вооружены длинными пиками, носили панцири из нарезанных и выглаженных кусочков рога, нашитых наподобие перьев на льняные одежды. Они проезжали огромные пространства, когда преследовали неприятеля или когда отступали сами, сидя на быстрых и послушных конях, и каждый вел с собой ещё одну лошадь, или две. Они пересаживались с лошади на лошадь для того, чтобы давать им отдых.