Красные треугольники подобны большому, т.к. имеют общий угол и стороны (лежащие на общем углу) подобны с коэффициентом:
k = m/(2m+n)
площадь красного треугольника относится к площади большого как квадрат коэффициента подобия, т.е.
s/S = k^2
s = S * k^2
искомая площадь
= S - 3s = S - 3(m/(2m+n))^2