Пусть а и b - катеты, с - гипотенуза. По теореме Пифагора а²+b²=с².
Пусть меньший катет равен (5х) см, а больший - (12х) см. Составим и решим уравнение
(5х)²+(12х)²=26²,
25х²+144х²=676,
169х²=676,
х²=676:169,
х²=4.
Значит, х=2 (-2 не подходит по условию).
Следовательно, меньший катет равен 10 см.