Спасибо за ответ!)
Но на самом деле все решается гораздо проще)
(6-x/2)²=108-(12-x)²
36-6x+x²/4=108-144+24x-x² | *4
144-24x+x²=432-576+96x-4x²
x²+4x²-24x-96x+144-432+576=0
Посчитать, в результате получаем квадратное уравнение и решаем по дискриминанту, либо же по теореме Виета.
Вдруг кому-то пригодится..)