Можно решить двумя способами
1) метод подбора
а+в=6; ав=8, это могут быть числа 4 и 2, тогда (а-в)^2=4
2) а+в=6 возводим в квадрат обе стороны, получаем (а+в)^2=6^2. а^2+2ав+в^2=36
и ав=8 умножаем обе части на -4; получаем -4ав = -32, складываем получивщиеся тождества
а^2+2ав+в^2=36 + (-4ав)=-32, получаем а^2-2ав+в^2=4, значит у нас ( а-в)^2=4