(a-b)^6=1*a^6- 6*a^5*b+15*a^4*b^2-20*a^3*b^3+15*a^2b^4-6*a*b^5+1*b^6
Для вычисления коэффициентов используем треугольник Паскаля
(5x-8)^6= 5^6*x^6+6*5^5*(-8)*x^5+15* 5^4*64*x^4+20*5^3*(-8)^3*x^3+15*5^2*8^4*x^2+ 6*5x*(-8)^5+1*(-8)^6 = 15625x^6-150000*x^5+600000*x^4-1280000*x^3+1536000*x^2-983040*x+262144