Селл родился в венгерской семье. Вырос в Вене, учился как пианист у Рихарда Роберта (одновременно с Рудольфом Серкином, с которым в дальнейшем Селла связало многолетнее сотрудничество), изучал композицию и теорию музыки уОйзебиуса Мандычевского в Академии музыки и сценического искусства, затем также некоторое время занимался у Макса Регера в Лейпцигской консерватории. С 10 лет выступал как пианист, с 14 лет исполнял и собственные сочинения.
Как дирижёр дебютировал в 1914 году с «Блютнер-оркестром» в Берлине; до 1916 года был вторым дирижёром оперного театра «Королевские зрелища» в Берлине, в 1917—1918 годах — главный дирижёр оперного театра в Страсбурге. В 1919—1924 годах работал в Праге, Дармштадте и Дюссельдорфе, в 1924—1929 возглавлял оркестр Немецкой государственной оперы и одновременно (с 1927) был профессором Высшей школы музыки в Берлине. В 1929—1937 годах — музыкальный руководитель (Generalmusikdirektor) «Нового немецкого театра» и профессор Немецкой академии музыки в Праге. С 1932 года дирижировал крупнейшими европейскими симфоническими оркестрами, в том числе Венским, Берлинским, Лондонским филармоническим и др. В 1936—1939 годах — главный дирижёр Шотландского национального оркестра в Глазго, а в 1937—1938 годах одновременно и гаагского Резиденц-оркестра. В сезоны 1938 и 1939 года работал в Австралии (дирижировал оркестром Австралийского радио). Много гастролировал в странах Европы и в США.
С 1939 года жил в США (гражданство с 1946), дирижировал ведущими американскими оркестрами, в 1942—1946 годах работал в Метрополитен-опера. В 1946 году принял руководство Кливлендским оркестром, который под руководством Селла стал одним из лучших в мире; в 1957 и 1965 годах гастролировал с этим оркестром в странах Европы, в том числе в СССР (1965). Выступал на многочисленных музыкальных фестивалях, в том числе на Зальцбургском.