a, b, c, d - первая, вторая, третья и четвертая книги соответственно.
Составим систему:
b + c + d = 42
a + c + d = 40
a + b + d = 38
a + b + c = 36
Сложим все уравнения, получим: 3a + 3b + 3c + 3d = 156
a + b + c + d = 52
a = 52 - 42 = 10 руб. стоит 1 книга
b = 52 - 40 = 12 руб. стоит 2 книга
c = 52 - 38 = 14 руб. стоит 3 книга
d = 52 - 36 = 16 руб. стоит 4 книга