Рассмотрите такой вариант:
число 0,321 дано с точно стью до трёх знаков (после запятой), поэтому и первое число можно представить с точностью до трёх знаков после запятой. Это будет 0,323.
Среди двух этих чисел больше первое, то есть 0,(32)
Как альтернативный вариент можно оба числа представить в виде обыкновенных дробей, после чего сравнить обе дроби, приведя их к общему знаменателю, либо просто вычитанием.