в обыкновенные дроби перевёл для наглядности, т.к. если оставить 1.2 и взять от него взаимно-обратное, получим 1/1.2 = 0.83333333333333333333333333
если хотите, можно оставить в виде десятичных. тогда решение будет таким:
уменьшаемое назовём буквой A, вычитаемое назовём буквой B, а разность - буквой C.
из условия следует, что A на 20% больше вычитаемого, значит, A=120%*B=1.2*B
а если выразить В через А, то получим B = (1/1.2)*A = 0.8333*A.
разность C = A-B = A-0.8333*A = 0.1667*A