Нужно знать формулы сокращённого умножения:
(a - b)^2 = a^2 - 2 * a * b + b^2
(a + b)^2 = a^2 + 2 * a * b + b^2
Тогда:
а) (х+5)^2 - 5х(2-х) = х^2 + 10х + 25 - 10х + 5х^2 = 6х^2 + 25
б) 16у + 2(у-4)^2 = 16у + 2(у^2 - 8у + 16) = 16у + 2у^2 - 16у + 32 = 2у^2 + 32