Зависит от контекста! Т.е. конкретного предложения, где употреблено это слово.
Слово "нестабильность" пишется слитно, поскольку "не" в данном случае - приставка. Нестабильность - понятие, противоположное "стабильности". Так же, как "неудача", "непогода".
Но может встретиться и раздельное написание частицы "не" и существительного "стабильность", например: "То, что мы наблюдаем в океане - это никак не стабильность, а полный хаос".
В этом случае "не" - отрицательная частица, и в предложении есть противопоставление ("не то, а это"), поэтому пишется раздельно.