а тут не скобки надо раскрывать. у вас ещё видимо пример недописан "=1" или "-1" , т.к. просто корень из 2*COS не решилось бы уравнение.
решается так (если "=1"):
х-п/4 = COS корень из 2/2
х - п/4 = +- arcCOS п/4 + 2пn; (n принадлежит Z)
х = +-п/4 + п/4 + 2пn; (n принадлежит Z)