А) Возводим выражение в скобках в вторую степень(по формуле):
3(4а"2-20аb+25b"2)-12(а"2-2аb+b"2)
Дальше раскрываем скобки:
12а"2-60аb+75b"2-12а"2+24ab-12b"2
12а"2 и -12а"2 сокращаются(т. к с разными знаками)
Остаётся:
-60аb+75b"2+24ab-12b"2
Приводим подобные члены:
63b"2-36ab
Выносим за скобку 9b(так как оба члена делятся на 9b)
9b(7b-4a)
Ответ:9b(7b-4a)
Надеюсь, помогла))