Точка Н является основание высоты из вершины прямого угла В треугольника АВС к гипотенузе...

CH = AC - AH = 40 - 10 = 30
$\frac{AB}{BC} = \frac{AH}{CH}$ . Отсюда $\frac{AB}{BC} = \frac{AH}{CH} = \frac{1}{3}$
По теореме Пифагора
$AB^{2} + BC^{2} = AC^{2}$
$x^{2} + (3x)^{2} = 40^{2}$
$x^{2} + 9x^{2} = 1600$
$10x^{2} = 1600$
$x^{2} = 160$
$x= \sqrt{160}= \sqrt{16*10}=4 \sqrt{10}$
$AB=4 \sqrt{10}$