Чтобы из целого числа вычесть смешанное, надо:
1) представить целое число в виде смешанной дроби.
Для этого нужно занять единицу у целой части и представить ее в виде дроби, у которой и числитель, и знаменатель равны знаменателю дробной части вычитаемого.
2) выполнить вычитание смешанных чисел.