В квадрат возводить нельзя!! ! По этой логике, если нужно вычислить (12/4), то это будет равно 144/16=9, а это бред, как вы, надеюсь, понимаете.. .
Нужно домножить числитель и знаменатель на корень из 2 (от этого значение дроби не изменится) , тогда получится (6корней из 2 поделить на 2)=3 корня из 2.