Пусть эти числа а и b.(a < b (без ограничения общности))
{ a + b = 11
{
{ a + b = 11
{ (a + b)(a - b) = 55 \\ формула разности двух квадратов
{ a - b = 5 \\ из предыдущей системы делим второе уравнение на первое
{ a + b = 11
{ 2a = 16
{ a + b = 11
{ a = 8
{ b = 11 - 8 = 3
Ответ: 8 и 3.