Самое простое: пусть АВ=х, АС=у, тогда АР=(5/9)*х, АМ=(3/8)*у.
Площадь треугольника АВС=0,5*х*у*sin(A).
Площадь треугольника АМР=0,5*(5/9)*х*(3/8)*у=0,5*х*у*sin(A)*(5/24). Отношение площадей треугольников 5/24, а площади меньшего треугольника к площади четырехугольника 5/(24-5)=5/19.