Обозначим a+b=d, тогда a+b+c=12, d+c=12, возведем в квадрат: d^2 + 2dc + c^2=144, теперь заменим d на (a+b)^ (a+b)^2 + 2c(a+b) + c^2 = 144,
a^2 + 2ab + b^2 + 2ac + 2bc + c^2 = 144, (a^2 + b^2 + c^2) + 2(ab+ac+bc)=144,
(a^2 + b^2 + c^2) +2*72=144, a^2 + b^2 + c^2 = 144 - 144 = 0