Прогрессия
a1; a2 = a1+d; a3 = a1+2d; a4 = a1+3d; a5 = a1+4d; a6 = a1+5d
{ a1 + a4 + a6 = a1 + a1 + 3d + a1 + 5d = 3a1 + 8d = 36
{ a2*a3 = (a1 + d)(a1 + 2d) = a1^2 + 3a1*d + 2d^2 = 54
Подставляем a1 из 1 уравнения во 2 уравнение.
{ a1 = (36 - 8d)/3 = 12 - 8d/3
{ (12 - 8d/3)^2 + (36 - 8d)*d + 2d^2 = 54
64d^2/9 - 64d + 144 + 36d - 8d^2 + 2d^2 - 54 = 0
d^2*(64/9 - 6) - 28d + 90 = 0
10/9*d^2 - 28d + 90 = 0
10d^2 - 252d + 810 = 0
D/4 = 126^2 - 10*810 = 15876 - 8100 = 7776 = (36√6)^2
d1 = (126 - 36√6)/10 = 12,6 - 3,6√6
a1 = 12 - 8d/3 = 12 - 8*12,6/3 + 8*3,6/3*√6 = -21,6 + 9,6√6
d2 = (126 + 36√6)/10 = 12,6 + 3,6√6
a1 = 12 - 8*12,6/3 - 8*3,6/3*√6 = -21,6 - 9,6√6
Криво как-то получается, нет ли опечатки в задании?