Если пользоваться теоремой Виета, как ты предлагаешь, то
x1 + x2 = -b/a = 15/4
x1*x2 = c/a = 4a^2/4 = a^2
При этом x2 = x1^2. Отсюда x1 > 0, потому что x2 = x1^2 > 0 и a^2 > 0
Подставляем в 1 уравнение
x1^2 + x1 - 15/4 = 0
4x1^2 + 4x1 - 15 = 0
D/4 = 2^2 - 4*(-15) = 4 + 60 = 64 = 8^2
x1 = (-2 - 8)/4 = -10/4 = -2,5 < 0 - не подходит.
x1 = (-2 + 8)/4 = 6/4 = 1,5; x2 = (1,5)^2 = 2,25
a^2 = x1*x2 = 1,5*2,25 = (1,5)^3
a1 = -√(1,5)^3 = -(1,5)^(1,5)
a2 = √(1,5)^3 = (1,5)^(1,5)