Очевидно, решить нужно в целых числах?
5y = 27 - 3x
y = (27 - 3x)/5 = 3(9 - x)/5
Чтобы оба числа были целыми, число 9 - x должно делиться на 5.
x = 4; 9 - x = 5; y = 3*5/5 = 3
x = 9; y = 0
x = -1; y = 3*10/5 = 6
Ответ: x = 4+5a, y = 3(9-x)/5 = 3(9-4-5а)/5 = 3(1-a), где а - любое целое.