По сути A,Б,В - символы, которые составляют троичную систему счисления.
Так как длина последовательности ровно 5 символов, то таких вариантов 
Объясню на пальцах:
ААААА, ААААБ, ААААВ - 3 набора для последнего символа
АААА..., АААБ..., АААВ... - 3 набора для предопоследнего символа, для каждого из которых 3 набора последнего сивола. Итого 9.
Аналогично, получаем для первого символа 243 наборов.