3. Все перемножаешь и возводишь в квадрат и раскрываешь скобки. Не забываешь, что перед скобками стоит знак "-".
Получишь 10a^2+2ab-15ab-3b^2-10a^2-20ab-10b^2=-33ab-13b^2=-b(33a+13).
Во втором выражении вспоминаешь, что при возведении в степень числа, которое имеет степень, показатели степени перемножаются. При умножении двух чисел с одинаковыми основаниями, но разными степенями, показатели степени суммируются. И еще: число со знаком "-" возведенное ы четную степень теряет минус, возведенное в нечетную степень минус сохраняет.
Зная это, получаем (-27x^6*y^6)*(4x^10*y^2)=-108x^16*y^8
4. Разложить на множители, значит представить как произведение многочленов. Как правило при разложении на множители одночлены группируются, и все, что можно, выносится за скобки.
В первом выражении выносим за скобки х.
х(1+у-z).
Во втором случае вспоминаем, что такое разность квадратов двух чисел: произведение суммы этих чисел на их разность. Так и запишем
(x^2-9y^2)+(x-3y)=(x+3y)(x-3y)+(x-3y)=(x-3y)(x+3y+1)