Родился 13 января 1923 года в станице Аксайская (ныне город Аксай Ростовской области) в семье рабочего, бывшего офицера российского флота. [Казак. с 1932 года проживал в станице Варениковская Крымского района Краснодарского края по ул.Тельмана, д.47][1]. Вырос в детдоме, где и получил не типичное для казахов имя.Ошибка в прочтении-не "казах", а "казак", родовой казак.
Образование среднее. Рано остался без родителей, воспитывался и учился в Батумском детском доме. Ещё в юности он удостоился нагрудного знака «Ворошиловский стрелок» за успешное участие в больших стрелковых состязаниях.
В Военно-Морском Флоте с июля 1941 года. Был зачислен в музыкантскую команду Туапсинской базы Черноморского флота. Однако вскоре сумел добиться перевода на боевые корабли и зачислен номером артиллерийского расчета в дивизион малых катеров флота. В его составе принял свой первый бой в Великой Отечественной войне в сентябре 1941 года во время похода в осаждённую Одессу.
На катерах краснофлотцу Рубахо долго воевать не довелось: в составе сводного батальона морской пехоты он был направлен на сухопутный фронт и принял участие в героической обороне Севастополя. В декабре 1941 года был ранен и эвакуирован из Севастополя, а по выздоровлении зачислен в снайперскую школу флота. С июня1942 года — вновь на фронте, в составе Южного фронта участвовал в обороне Ростова, Кубани, Северного Кавказа и перевалов Главного Кавказского хребта. Проявил себя талантливым снайпером, с декабря 1942 года имел на своем боевом счету 200 уничтоженных солдат и офицеров врага. В декабре 1942 года был ранен вторично.
После выздоровления был зачислен в 393-й батальон морской пехоты и под командованием его легендарного командира майора Цезаря Куникова принял участие в высадке морского десанта под Новороссийском. Затем участвовал в обороне захваченного этим десантом плацдарма, получившего название «Малая земля». Там стал командиром группы снайперов, довёл свой личный счёт до 276 гитлеровцев и румын. После переброски на другие участки Северо-Кавказского фронта, в августе 1943 года, группа снайперов Филиппа Рубахо была направлена на сухопутный участок фронта под Новороссийском. Затем он вернулся вГеленджик и в составе своего батальона готовился к новому десанту на причалы Новороссийского порта.
Снайпер отдельного батальона морской пехоты кандидат в члены ВКП(б) старшина 1-й статьи Филипп Рубахо 9 сентября 1943 года в числе первых в батальоне высадился на берег в районе Новороссийска, гранатами уничтожил две вражеские огневые точки, а в рукопашной схватке — трёх солдат противника. Отважный морской пехотинец был тяжело ранен в голову на плацдарме в Новороссийске при артналёте 14 сентября 1943 года, эвакуирован на катере в один из госпиталей Сочи, но на следующий день, 15 сентября, скончался.
Похоронен в городе Сочи Краснодарского края, в братской могиле на Завокзальном мемориале.Перезахоронен в 1954 или в 1955-м году в Центральном парке ст. Варениковская на мемориале защитников Родины.
Всего старшина 1-й статьи Рубахо Ф. Я. уничтожил 346 немецких солдат, подорвал 8 дзотов, танк, миномёт.