Прототип Греческого огня появился предположительно в 424 до н. э. , в битве при Делии: тогда из полого бревна выпускалась смесь сырой нефти, серы и масла. Собственно греческий огонь был изобретён в 673 г. инженером и архитектором Каллиником из завоёванного арабами сирийского Гелиополя (современный Баальбек в Ливане) ; Каллиник бежал в Византию и там предложил свои услуги императору Константину IV в борьбе против арабов.
Установка с Греческим огнём представляла собой медную трубу — сифон, через который с грохотом извергалась жидкая смесь. Предположительно, максимальная дальнобойность сифонов составляла 25 м, поэтому изначально Греческий огонь использовался только во флоте, где представлял страшную угрозу медленным и неуклюжим деревянным кораблям того времени. Кроме того, по свидетельствам современников, Греческий огонь нельзя было потушить, поскольку он продолжал гореть даже на поверхности воды. Впервые сифоны с Греческим огнем были установлены на византийских дромонах во время битвы при Киликии. Историк Феофан писал о ней:
«в год 673 ниспровергатели Христа предприняли великий поход. Они приплыли и зазимовали в Киликии. Когда Константин IV узнал о приближении арабов, он подготовил огромные двухпалубные корабли, оснащённые Греческим огнем, и корабли-носители сифонов… Арабы были потрясены… Они бежали в великом страхе» .Если на суше войска византийцев терпели поражения от арабов, то на море Греческий огонь давал им превосходство над противником. Благодаря ему в 718 г. была одержана крупная морская победа над арабами. В 941 византийцы с помощью Греческого огня разгромили подошедший к Константинополю флот князя Игоря Рюриковича. Греческий огонь применялся против венецианцев во время Четвёртого Крестового похода (1198—1204). Секрет приготовления Греческого огня хранился в строгой тайне, однако после завоевания Константинополя рецепт изготовления Греческого огня узнали в Западной Европе. В 1106 году Греческий огонь был применён против норманнов во время осады Дураццо. Греческий огонь также был известен и англичанам.
Греческий огонь также употреблялся при осадах крепостей. Некоторые исследователи, на основании анализа русских летописей, делают выводы о том, что Греческий огонь был знаком русичам и половцам. Также, по некоторым сведениям, Греческий огонь стоял на вооружении у армии Тамерлана. Последнее упоминание об использовании Греческого огня относится к осаде Константинополя в 1453 году Магометом II: Греческий огонь тогда применяли как византийцы, так и турки.
После начала массового применения огнестрельного оружия на основе пороха, греческий огонь потерял своё военное значение, его рецепт был утрачен в конце XVI века.