За три карандаша и пять тетрадей заплатили 68 рублей, а за две ручки и три тетради...

Пусть у - это стоимость тетради
3x+5y=68 - три карандаша и пять тетрадей = 68
2x+3y=42 - две ручки и три тетради = 42
$\left \{ {{3x+5y=68} \atop {2x+3y=42}} \right.$

2x=42-3y
x=21-1.5y

3(21-1.5y)+5y=68
63-4.5y+5y=68
63+0.5y=68
0.5y=68-63
0.5y=5
y=10 - стоимость тетради