Если я правильно понял условие задачи, то так.
-----
прямоугольный треугольник ABC, где ВС - гипотенуза. ВА - больший катет, АС - меньший.
Пусть АС = X см, тогда ВА = Х+7. По теореме Пифагора ВС²=ВА²+АС². Подставляем значения.
13²=(х+7)²+х²
169=х²+14х+49+х²
Перенесём всё в левую часть и приравняем к 0.
х²+х²+14х+49-169=0
2х²+14-120=0
Теперь решаем через Дискриминант
а=2;в=14;с= -120
D=в² - 4ас
D=1156
х₁ = -в+√D/2а= -14+√1156/4=5
х₂ можем не рассматривать, значение будет отрицательное. а сторона не может быть таковой.
⇒ х=5
Теперь осталось подставить
АС=5; ВА = 5+7 = 12.
Ответ: катеты равны 5 и 12.