Рахманинов, возможно, начал работу над концертом ещё в 1914 году. В дальнейшем из-за вынужденной эмиграции и плотного гастрольного графика работа продвигалась медленно. После восьми лет гастролей композитор взял отпуск в конце 1925 года и работал над четвёртым концертом.Концерт был впервые исполнен автором в Филадельфии 18 марта 1927 года с дирижером Леопольдом Стоковским. Он был довольно холодно встречен критикой, поэтому Рахманинов внес туда некоторые поправки перед публикацией партитуры в 1928 году, а в 1941 создал вторую редакцию произведения.