За три тетради и пять карандашей заплачено 7руб., а за пять таких же тетрадей и восемь...

Пусть тетрадь - х рублей, а карандаш - у, то
3х+5у=7
$x= \frac{7-5y}{3}$
5х+8у=11,50
$5*\frac{7-5y}{3}+8y=11.50$

(35-25у)/3+8у=11,50, домножим на 3, чтобы избавиться от дробей

35-25у+24у=34,5

-у=34,5-35

у=0,5 - карандаш стоит 50 копеек, тогда
тетрадь стаит!
3х+5*0,5=7
3х+2,5=7
3х=7-2,5
3х=4,5
х=4,5/3
х=1,5 - стоимость тетради 1 рублей 50 копеек
Ответ: карандаш стоит 50 коп, стоимость тетради 1руб 50 коп