Пусть книги стоили x, y, z, t -рублей соответственно, тогда
y+z+t=42
x+z+t=40
x+y+t=38
x+y+z=36
из первого уравнения определим y
y=42-z-t
Значение y подставим в 3-е и 4-ое уравнения соответственно, получим следующую систему
x+z+t=40
x-y=-4
x-t=-6
из 1-го уравнения найдем x
x=40-z-t
и подставим в 3-е и 4-ое уравнения соответственно, получим
2z+t=44
2t+z=46
из 1-го уравнения найдем t
t=44-2z
и подставим во 2-е уравнение, получим
2*(44-2z)+z=46
88-4z+z=46 => 3z=42 => z=14
тогда
t=44-2z => t=44-2*14 => t=16
x=40-z-t => x=40-14-16 =>x=10
y=42-z-t => y=42-14-16 => y=12
то есть книги стоят 10, 12, 14 и 16 рублей