Потому что число а² положительное,b² тоже положительное. В условии написано "а²> b²", значит (а-1)² < (b+1)² будет не верно, так как число а² положительное, и оно больше числа b², а в неравенстве написано, что число а² меньше числа b², и это не верно.