Я не смог нормально картинку нарисовать, пришлось вставить pdf файл.
Если сложить все площади S1 + S2 + S3, то будут два раза учтены площади тех треугольников, которые являются пересечением любой пары из трех заданых.
Каждый из них подобен исходному большому треугольнику, да и всем трем заданным. Рассмотрим пару таких треугольников - один с площадью S1, а другой - "дважды учтенный", площадью S11, вершина этого треугольника - в точке Р, а основание является частью стороны, параллельной прямой, отсекающей треугольник S1 (пусть это АВ).
Высота h11 + h1 = h (высота, проведенная к этой самой стороне АВ в исходном треугольнике АВС). Площадь АВС обозначим S.
ОТНОШЕНИЕ ВЫСОТ РАВНО ОТНОШЕНИЮ КОРНЕЙ ИЗ ПЛОЩАДЕЙ ПОДОБНЫХ ТРЕУГОЛЬНИКОВ. Это - главное заклинание задачи :)))
Имеем
(h11 + h1)/h1 = корень(S/S1);
h11/h1 = (корень(S) - корень(S1))/корень(S1);
S11 = S1*((корень(S) - корень(S1))/корень(S1))^2 = (корень(S) - корень(S1))^2;
Аналогично выражаются площади двух других "дважды учтенных" треугольников.
Окончательно
S = S1 +S2 +S3 - (корень(S) - корень(S1))^2-(корень(S) - корень(S2))^2-(корень(S) - корень(S3))^2;
возводя в квадрат и приводя подобные, получаем
S = (корень(S1)+ корень(S2) + корень(S3))^2/4