используя выделение из трехчлена квадрата двучлена,докажите неравенство...

Ваше неравенство неверно: оно не выполняется при a=b=0, Неравенство должно быть нестрогим.

$a^{2}+ab+b^{2}=a^2+2\cdot a\cdot\dfrac b2+\left(\dfrac b2\right)^2+\dfrac{3b^2}4=\left(a+\left(\dfrac b2\right)\right)^2+\dfrac{3b^2}4$

Последнее выражение неотрицательно как сумма неотрицательных слагаемых.