Обозначим 
, тогда 
стремится к единице справа, а дробь
%5E2%7D%20%3D%20%5Cfrac%7B3t_n%5E3(t_n-1)%20-%20(t_n%5E3-1)%7D%7B(t_n-1)%5E2%7D%20%3D%20%5Cfrac%7B3t_n%5E3-t_n%5E2-t_n-1%7D%7Bt_n-1%7D%20%3D%20%5C%5C%5C%5C%3D%5Cfrac%7Bt_n%5E2(t_n-1)%2Bt_n(t_n%5E2-1)%20%2B%20t_n%5E3-1%7D%7Bt_n-1%7D%20%3D%20t_n%5E2%20%2B%20t_n(t_n%2B1)%20%2B%20t_n%5E2%2Bt_n%2B1%20%3D%203t_n%5E2%2B2t_n%2B1)
Последнее выражение стремится к 6, это и ответ.
Комментарий: вообще если получается 0/0 значит верхний многочлен делится на нижний хотя бы частично, это и надо было посмотреть. В нашем случае делится полностью, так как
%5E2(3x%5E2%2B2x%2B1))