2ab-a^2-2b^2+4b=4-(a^2-2ab+b^2)-(b^2-4b+4)=4-(a-b)^2-(b-2)^2<=4</p>
причем значение 4 достигается при a=b=2
так как квадрат любого выражения неотрицателен
(a-b)^2>=0
-(a-b)^2<=0</p>
(b-2)^2>=0
-(b-2)^2<=0</p>
-(a-b)^2-(b-2)^2<=0</p>
4-(a-b)^2-(b-2)^2<=4</p>
Ответ: 4