сумма трех первых членов геометрической прогрессии равна 21,сумма их квадратов равна...

По условию: $S_3=21$ и $b_1^2+b_2^3+b_3^2=189$ . Используя формулу n-го члена геометрической прогрессии, имеем что
$\dfrac{b_1(1-q^3)}{1-q}=21$ и    $b_1^2+b_1^2q^2+b_1^2q^4=189$

Решая систему уравнений    $\displaystyle \left \{ {{ \dfrac{b_1(1-q^3)}{1-q}=21 } \atop {b_1^2+b_1^2q^2+b_1^2q^4=189}} \right.$ , имеем что

$\displaystyle \left \{ {{b_1(1+q+q^2)=21} \atop {b_1^2(1+q^2+q^4)=189}} \right. \Rightarrow~~~ \left \{ {{b_1(1+q+q^2)=21} \atop {b_1^2(q^2-q+1)(q^2+q+1)=189}} \right. \\ \\ \Rightarrow \left \{ {{b_1(1+q+q^2)=21} \atop {b_1(q^2-q+1)\cdot21=189}} \right. \Rightarrow~~~ \left \{ {{b_1(1+q+q^2)=21} \atop {b_1(q^2-q+1)=9}} \right. \\ \\ \Rightarrow ~~~~~~~\left \{ {{b_1= \dfrac{21}{1+q+q^2} } \atop { \dfrac{21(q^2-q+1)}{1+q+q^2} =9}} \right.$

$7(q^2-q+1)=3(1+q+q^2)\\ 7q^2-7q+7=3+3q+3q^2\\ 4q^2-10q+4=0\\ 2q^2-5q+2=0$
Решив как квадратное уравнение, получим
$q_1=0.5\\ q_2=2$

Тогда    $b_1(1)=12;\\ b_1(2)=3$