тут понадобиться формула разности кубов: a^3-b^3=(a-b)(a^2+ab+b^2), тогда
1/3(8,57-5,57)(8,57^2+8.57*5.57+5.57^2)-3*8.57*5.57=(1/3)*3( 8,57^2+8.57*5.57+5.57^2)-3*8.57*5.57= 8,57^2+8.57*5.57+5.57^2-3*8.57*5.57= 8,57^2+5.57^2-2*8.57*5.57=(8.57-5.57)^2=9