Теорема косинусов, дважды
x² = 8²+y²-2*8*y*cos(45°)
8² = x²+y²-2*x*y*cos(30°)
сложим
0 = 2y² -8√2*y -√3*x*y
0 = 2y - 8√2 - √3x
y = 4√2 + √3/2*x
подставим в первое, оно кажется получше
x² = 64+y²-8√2*y
x² = 64+(4√2 + √3/2*x)²-8√2*(4√2 + √3/2*x)
x² = 64+3x²/4 + 4√6*x + 32 - 4√6*x - 64
x² = 3x²/4 + 32
x² = 128
x = +8√2 (берём только положительный корень)
y = 4√2 + √3/2*x = 4√2 + √3/2*8√2 = 4√2 + 4√6