B4 = b1 * q^3
b2 = b1 * q
b3 = b1 * q^2
и теперь просто подставить...
получится система с двумя неизвестными...
b1*b1 * q^3 = 24
(b1*q)^3 + (b1*q^2)^3 = 336
------------------------------------ дальше буду писать вместо b1 --- просто b
b^2 * q^3 = 24
b^3 * q^3 + b^3 * q^6 = 336
b * b^2 * q^3 + b * b^2 * q^3 * q^3 = 336
24*(b + b*q^3) = 336
b + b*q^3 = 14
b + b*24/(b^2) = 14
b^2 + 24 = 14b
b^2 - 14b + 24 = 0
b = 12 или b = 2