3. В числителе нужно заметить формулу квадрат разности, а в знаменателе вынести общий множитель sqrt(b), тогда можно произвести преобразование:
[(sqrt(b)-1)^2]/[sqrt(b)-b]=[(1-sqrt(b))^2]/[sqrt(b)(1-sqrt(b)]
Сокращаем на 1-sqrt(b), получаем:
[1-sqrt(b)]/[sqrt(b)]
4. Считаем число А: 0,24*0,24=0,0576
0,1*0,1=0,01
0,0576 + 0,01 = 0,0676
sqrt(0.0676)=0.26
Число В=0.2(6)=0.2666666...
Делаем вывод: В>A.