Вы же начали правильно находить определитель по правилу треугольника. В чем проблема?
-10(1+х)-4(х-3)-3-(-4-30-(1+х)(х-3))=0
-10-10х-4x+12-3+4+30+x-3+x^2-3x=0
x^2-16x+30=0
D=256-120=136
x1=8-sqrt(34)
x2=8+sqrt(34)
Ответ: если x не равен значениям х1 и х2, то матрица невырожденная