Надо раскрыть скобки, обращая внимание на знаки, привести подобные члены, а потом подставить значения неизвестных.
1)(5,7a^2b - 3,1ab + 8b^3) - (6,9ab - 2,3a^2b + 8b^3) = 5,7a^2b - 3,1ab + 8b^3 - -6,9ab + 2,3a^2b - 8b^3 = 8a^2b - 10ab = 8*2^2*5 - 10*2*5 = 160-100 = 60
при a=2 b=5
2) (5x^2 - 3xy + 7y^2) + (5xy - 12x^2) = 5x^2 - 3xy + 7y^2 + 5xy - 12x^2 =
=-7x^2+2xy + 7y^2 = -7*(-2)^2 + 2*(-2)*4 + 7*(4)^2 = 28 -16 + 112 = 124