Сам подход к решению задачи не верен. Если а было числом десятков, в числом единиц (запись числа 10*а+в), то после приписывания пятерки справа имеем, что а - число сотен, в - число десятков, и число записывается в виде: 100*а+10*в+5. Уравнение второе в системе правильно выглядит так: 100*а+10*в+5-230=10*а+в.