Вычислить матрицу D=ABC-3E (штрихом тут обозначено транспонирование)
Посмотрите предложенное решение; оформление не соблюдалось.