Нет, неправильно. Упростить выражение - это значит, придумать более простую запись, но само выражение должно остаться таким, какое есть.
То есть формально правильно, своим способом ты получишь тоже самое, но намного более сложным способом.
В данном случае нужно вынести за скобки √2.
4√2 - 3*2√2 + 2*4√2 = 4√2 - 6√2 + 8√2 = 6√2
Квадрат результата: 36*2 = 72.
Вот и всё.