(x^2-2x+1)^2=1 это т.е. (x^2-2x+1)^2=1^2 потом квадраты сокращаются? и получается x=0...

Квадраты не могут сократиться, так как действие "сокращение" можно сделать только над одинаковыми множителями в числителе и знаменателе дроби. Но можно извлечь квадратный корень из обеих частей равенства.
$\sqrt{x^2-2x+1}=1\\\\x^2-2x+1=(x-1)^2\\\\\sqrt{(x-1)^2}=|x-1|= \left \{ {x-1,\; esli\; x \geq 1} \atop {1-x,\; esli\; x<1}} \right.\\\\a)\; x \geq 1\; \to \; x-1=1,\; x=2\\b)\; x<1\; \to \;1-x=1,\; x=0$