За 4 карандаша и 3 тетради уплатили 9 рублей и 60 копеек, а 2 карандаша и 2 тетради-5...

Пусть Х - цена 1 карандаша
У - цена 1 тетради

$\left \{ {{4x+3y=9.6} \atop {2x+2y=5.4}} \right.$
разделим нижнее уравнение на 2, получим:
$x+y=2.7$
отсюда:
$x=2.7-y$
подставим в верхнее уравнение:
$4(2.7-y)+3y=9.6 \\ 10.8-4y+3y=9.6 \\ -y=9.6-10.8 \\ -y=-1.2$
$y=1.2$ руб. - цена 1 тетради

$x=2.7-y \\ x=2.7-1.2$
$x=1.5$ руб. - цена 1 карандаша

8 * 1,5 + 7 * 1,2 = 12 + 8,4 = 20,4 руб - стоят 8 карандашей и 7 тетрадей