Родился 25 апреля 1903 г. в Тамбове. Получил домашнее образование, затем учился в частной гимназии. Уже в раннем детстве проявил недюжинные математические способности. Однако мальчик поначалу мечтал стать лесничим, увлекался не только математикой, но и историей, социологией.Позднее семья переехала в Москву. В годы Гражданской войны Колмогорову пришлось работать на строительстве железной дороги Казань — Екатеринбург. В 1918 г. он поступил на математическое отделение Московского университета, досрочно сдал экзамены за первый курс. Научные труды Колмогорова увидели свет, когда их автору исполнилось 20 лет. Наибольший интерес учёного вызывали проблемы теории вероятности, которую он до конца жизни считал своей главной
специальностью.
В 1925 г. Колмогоров окончил университет и остался в его стенах как преподаватель. В 1930 г. он получил звание профессора, в 1935 г. защитил докторскую диссертацию, а в 1939 г., в возрасте 36 лет, был избран академиком.
За долгую научную жизнь Колмогоровым были написаны фундаментальные работы по тригонометрическим рядам, теории меры, теории множеств, теории интеграла, теории приближения функций. В последние годы жизни он возглавлял кафедру математической логики МГУ. Академик также принимал участие в разработке программ и учебников по математике для средней и высшей школы, организации математических олимпиад и т. д.
Заслуги учёного перед наукой были отмечены многочисленными наградами: Государственная премия (1941 г.), Ленинская премия (1965 г.), 6 орденов Ленина, орден Трудового Красного Знамени, международная премия Больцано (1963 г.) и др. Андрей Николаевич состоял почётным членом академий наук Франции, Нидерландов, Польши, Румынии, США, Лондонского королевского общества.
Скончался 20 октября 1987 г. в Москве.