Родился 11 сентября 1909 года в деревне Большой Олыкъял (ныне Карайского сельсовета Волжского района, Республика Марий Эл в крестьянской семье.
Во время Великой Отечественной войны в действующей армии – с 22 июня 1941 года. Сражался на Юго-Западном, Сталинградском, Донском, Воронежском, Степном, 2-м Украинском фронтах. Был тяжело ранен 15 сентября 1941 года.
Особо отличился в ходе Бухарестско-Арадской наступательной операции (30 августа – 3 октября 1944 года) на территории Румынии.
19 сентября взвод, которым командовал З.Ф.Прохоров, сражался за высоту на подступах к селу Ходош. Продвижению бойцов мешал сильный пулемётный огонь из вражеского дота. Гвардии лейтенант З.Ф.Прохоров со связкой гранат в руке пополз на огневую точку противника. Когда до вражеского пулемета оставалось не более 15 метров, Прохоров приготовился метнуть гранаты, но вражеская пуля пробила правую руку. Тогда он подполз поближе и лёжа, левой рукой бросил связку гранат. После сильного взрыва пулемёт смолк. Прохоров встал во весь рост и выкрикнул: «Вперёд! За Родину!»
Но в это время пулемёт вновь заработал. Прохоров был тяжело ранен, но, собрав последние силы, бросился к пулемёту и закрыл своим телом амбразуру дота.
Указом Президиума Верховного Совета СССР от 24 марта 1945 года гвардии лейтенанту Прохорову Зинону Филипповичу за образцовое выполнение боевых заданий командования на фронте борьбы с немецкими захватчиками и проявленные при этом отвагу и геройство было присвоено звание Героя Советского Союза (посмертно).
Похоронен в братской могиле советских воинов в городе Тыргу-Муреш (Румыния).
Награжден орденами Ленина (24.03.1945), Отечественной войны 2-й степени (20.09.1944).
Именем героя названы улицы в городах Волжск и Йошкар-Ола, в деревнях Большой Олыкъял и Карай. Мемориальные доски установлены в Сотнурской школе Волжского района, Сотнурской МТС, Олыкъяльском Доме-музее З.Ф.Прохорова, в Йошкар-Оле.
Бюсты героя установлены на Аллее Героев в Волжске, перед Карайским ЦСДК «Эрвий», на Аллее Героев в Большом Олыкъяле.