В общем, единственное что соответствует условию 411_y - 100_x = 111_2 это
x=12 y=6
вот код подбора на Руби, хотя вряд ли пригодится
for a in 2..30
for b in 5..30
iA="100".to_i(a)
iB="411".to_i(b)
iC="111".to_i(2)
# p (iA, " ", iB)
if iB-iA==iC
p ("found", a, b)
end
end
end