Существуют 2 способа решения таких задач
1. Последовательно вычислять по рекуррентной формуле значения членов последовательности, пока не вычислится нужный.
2. Попытаться решить рекуррентное соотношение, так называемое уравнение в конечных разностях и разностное уравнение и определить Xn как функцию от N.
У тебя разностное уравнение с постоянными коэффициентами, решением его является некий полином, так что если захочешь, то совсем несложно будет его найти.
Я решу задачу 1 способом (причём сразу и а и б)
n хn Xn
1 1/2 3
2 3*1/2-1 = 1/2 3*3-1 = 8
3 3*1/2 -1 =1/2 3*8-1 =23
4 3*1/2-1 = 1/2 3*23-1 = 68
5 3*1/2-1 = 1/2 3*68-1=203
Ну вот, в принципе и всё.