Пусть х - длина отрезка катета от вершины прямого угла до точки касания.
Т.к. отрезки касательных к окружности из каждой вершины до точек касания равны, то получим, что катеты равны x+3 и x+10, а гипотенуза равна 3+10=13.
Т.е. по т. Пифагора (x+3)^2+(x+10)^2=13^2. У этого уравнения корни x=2 и x=-15. Подходит только x=2, значит катеты равны 2+3=5 и 2+10=12, и поэтому площадь равна 5*12/2=30.