Пусть у мальчика х монет по 2 рубля и у монет по 5 рублей. По условию х + у = 18. Второе уравнение 2х + 5у = 87. Решим эту систему уравнений : х = 18 - у, подставим во второе :
2 ( 18 - у ) + 5у = 87
36 - 2у + 5у = 87
3у = 87 - 36
3у = 51
у = 17
х = 18 - 17 = 1
Ответ : у мальчика была 1 монета по 2 рубля и 17 монет по 5 рублей.