ABC - треугольник
ВК - высота к АС
BK^2 = AB^2 - (AC/2)^2 = 10^2 - (12/2)^2 = 10^2 - 6^2 = 8^2
BK = 8
Точка М принадлежит АВ (угол квадрата со стороной а)
Точка Р принадлежит ВК
Точка N принадлежит АС
MP // AC
MN // BK
Треугольники ABK, AMN и MBP подобны по трем углам =>
AK / AN = BK / MN ,
где
AK = AC/2 = 12/2 = 6
AN = AK - NK = AK - a/2 = 6 - a/2
BK = 8
MN - a
=>
6 / (6 - a/2) = 8 / a
6a = 8*(6 - a/2)
12a = 96 - 8a
20a = 96
a = 4,8 - сторона вписанного квадрата