Заповедник расположен в Алагирском районе Северной Осетии на северном склоне Большого Кавказского хребта в пределах высот 650—4 249 м над уровнем моря.
С севера на юг в заповедник полностью или частично входят хребты Кавказа: Предгорный, Лесистый, Пастбищный, Скалистый, Боковой и Главный (Водораздельный).
В заповеднике находится 76 ледников общей площадью около 37 кв. км. Крупнейший ледниковый узел — Караугом-Цейский — находится в Адайхозском массиве. Цейский ледник, самый крупный в заповеднике, имеет площадь 9,7 кв. км и длину 8,6 км. Он заканчивается на высоте 2 300 м, в лесной зоне.
С ледников берут начало реки заповедника — Ардон (самая большая), Садон, Баддон, Архондон, Цажиудон, Бугултыдон и другие.
Имеется также несколько моренных озёр — Цажиуцад и другие. Есть небольшое минеральное озеро с постоянно бурлящей водой у села Згил.
В заповеднике насчитывают более 150 лавиноопасных зон. Наиболее часто лавины сходят в Цейском и Касарском ущельях.
В урочище Шуби Скалистого хребта находится крупнейшая из пещер Центрального Кавказа — Шуби-Ныхасская, её общая длина более 1 000 м.