Для вычисления квадрата дробного числа - переводим его в неправильную дробь, затем возводим в квадрат и числитель и знаменатель, а потом возвращаем в смешанную дробь.
РЕШЕНИЕ
(3/7)² = 9/49
(1 5/7)² = (12/7)² = 144/49 = 2 46/49
А далее ошибки в тексте вопроса. Сторона не выражается в квадратных единицах.