Разность квадратов двух чисел равна 100 если из утроенного первого числа вычесть...

Пусть x - первое число, y - второе число. Составляем систему уравнений согласно условию:

$\left \{ {{x^2 - y^2=100} \atop {3x -2y=30}} \right.$

Из второго уравнения выразим икс и подставим его в первое уравнение:

$x=10+ \frac{2}{3} y \\ \\ (10+ \frac{2}{3} y)^2 -y^2 =100 \\ \\ 100 +\frac{40}{3} y + \frac{4}{9} y^2 -y^2 = 100 \\ \\ \frac{40}{3} y -\frac{5}{9} y^2 =0 \\ \\ 24y -y^2 =0 \\ \\ y(24-y)=0 \\ \\ y_1=0 \\ y_2=24$

Определяем икс:

$x_1 =10+ \frac{2}{3} y_1 = 10+ \frac{2}{3}*0 =10 \\ \\ x_2 =10+ \frac{2}{3} y_2 = 10+ \frac{2}{3}*24 =26$

Итак:
$x_1 =10; y_1=0 \\ \\ x_2=26; y_2= 24$

Проверка показывает, что оба решения верны.