Первый способ.
1)8*12=96(руб.)-стоят 8 тетрадей.
2)5*12=60(руб.)-стоят 5 тетрадей.
3)96-60=36(руб.)
Второй способ.
1)8-5=3(т.)-осталось неисписанных.
2)12*3=36(руб.)
Ответ: оставшиеся тетради стоят 36 рублей.
Более рациональный способ второй, так как в нём меньше действий.
Если что, обращайся!!! :)