Ко времени правления Юстиниана империя благодаря стабилизации экономики была в состоянии содержать хотя и небольшие, но хорошо вооружённые и обученные воинские контингенты. Армия была реорганизована в связи с требованиями времени и текущей ситуации, которая была непростой. На византийскую тактику, вооружение и воинскую организацию сильнейшее влияние оказала Персия. Армия подразделялась на полевую армию (состоявшую, главным образом, из комитатов и федератов при поддержке союзников-варваров) и гарнизонные части. Постепенно исчезали легионы и алы, которые сменялись более мелкими пехотными и кавалерийскими отрядами-нумериями (тагмами). Византийские войска были подразделены на отряды-нумерии численностью 200—400 воинов под командованием офицеров-трибунов. В каждом провинциальным городе располагались 1-2 нумерия.
Наёмные кавалерийские войска подразделялись на лёгкую конницу федератов и тяжёлую конницу катафрактариев, появившихся под влиянием Персии. Отряды конных лучников-гиппотоксатов составляли воинскую элиту империи. Полевую армию составляли так называемые комитаты. Зачастую они были ненадёжны, так как были более преданны своим командирам-вербовщикам, принося клятву верности им, а не императору. Таким образом, надёжность комитатов зависела прежде всего от верности их командиров императору. Тем не менее, комитаты были основой для формировании будущей постоянной армии. Ядром комитатов были букелларии — личная гвардия императора и дружины частных лиц. При Юстиниане престиж службы и привилегии военным возросли, благодаря чему Византия в многочисленных войнах могла опереться и на собственные контингенты. В отрядах федератов, помимо варваров, стали служить и жители империи. Основными источниками рекрутов были Южная Анатолия и Иллирия. Повысился процент добровольцев. Тем не менее, германские наёмники продолжали составлять значительную часть армии. Лучшие тяжеловооружённые кавалерийские части формировались из готов. В 575 году было сформировано элитное подразделение из готов, получившее название «оптиматы». Оно было расквартировано в Вифинии в VI—VII вв. В армии было много остготов, переселившихся в империю из Италии под натиском лангобардов. Они служили преимущественно в коннице. Остальные остготы служили лучниками в пехоте. Помимо готов, в византийской армии служили выходцы из Судана, а также берберы, арабы и гунны.