приведите многочлен к стандартному виду 4b^2+a^2+6ab-11b^2-6ab
Упрощаем выражение(приводим подобные слогаемые):
a^2-7b^2
4b^2+a^2+6ab-11b^2-6ab=-7b^2+a^2