Родился 16 июля (28 июля) 1900 г. в д. Борисово Курганской обл., из крестьян, русский. В 1918 г. окончил 7 классов гимназии, в 1919 г. — Военно-агитаторские курсы в Петроградском военном округе, в 1929 г. — Курсы усовершенствования высшего начсостава РККА, через два года «сдал экстерном за нормальную военную школу», а еще через два года, в 1933 г., заочно окончил Военную академию им. М.В. Фрунзе.
В Советскую Армию вступил добровольно 30 мая 1918 г., находился на пропагандистской и политической работе, был военным комиссаром и начальником политотдела дивизии (январь—ноябрь 1931 г.).
В аттестации 1927 г. отмечается что он "работник очень энергичный, находчивый и инициативный, причем инициативу проявляет по всем вопросам своевременно и верно..."
В последующем Ф.И. Голиков — на командных должностях: командир стрелкового полка (ноябрь 1931 г. — ноябрь 1933 г.), командир стрелковой дивизии (по сентябрь 1936 г.), отдельной механизированной бригады (по июнь 1937 г.), механизированного корпуса (до января 1938 г.); затем командующий армейской группой войск (ноябрь 1938 г. — сентябрь 1939 г.) и командующий 6-й армией Киевского Особого военного округа (по июль 1940 г.).
Командующий войсками округа комкор Герасименко В.Ф., характеризуя своего подчиненного в 1940 г., отмечал, что это "крепкий большевик. В быту скромен. Связан с массами и заботится о них. Обладает большой силой воли и энергией...". В июле 1940 г., будучи начальником «5 управления Красной Армии», Ф.И. Голиков назначается на должность заместителя начальника Генерального штаба Красной Армии — начальника Главного разведывательного управления (по ноябрь 1941 г.).
В годы Великой Отечественной войны Ф.И. Голиков возглавляет многие армейские и фронтовые объединения: командующий 10-й резервной армией Западного фронта (ноябрь 1941 г. — февраль 1942 г.): 4-й ударной армией Калининского фронта (по апрель 1942 г.): войсками Брянского фронта (по июль 1942 г.), Воронежского фронта (июль 1942 гг.): командующий 1-й гвардейской армией Сталинградского фронта (по сентябрь 1942 г.); заместитель командующего Сталинградским фронтом (по октябрь 1942 г.), Северо-Западного фронта (октябрь 1942 г.), тогда же, в октябре, вновь начальник Главного разведывательного управления — заместитель начальника Генерального штаба Красной Армии; командующий войсками Воронежского фронта (по март 1943 г.), а затем заместитель народного комиссара обороны СССР по кадрам (апрель-май 1943 г.); впоследствии начальник Главного управления кадров МО СССР (по сентябрь 1950 г.). По апрель 1956 г. командует отдельной механизированной армией, а до конца 1957 г. возглавляет Военную академию бронетанковых войск.
С января 1958 г. начальник Главного политического управления Советской Армии и Военно-Морского Флота. В мае 1962 г. «освобожден от должности по состоянию здоровья и в связи с переходом на пенсию», но с июня 1962 г. по июль 1980 г. генеральный инспектор Группы генеральных инспекторов Министерства Обороны СССР.
Ф.И. Голиков награжден 4 орденами Ленина (22.02.1941 г., 21.02.1945 г., 20.07.1950 г., 15.07.1960 г.), орденом Октябрьской Революции (22.02.1968 г.), 4 орденами Красного Знамени (20.02.1933 г., 3.01.1942 г., 3.11.1944 г., 20.06.1949 г.), орденами Суворова I степени (28.01.1943 г.) и Кутузова I степени (22.02.1944 г.), орденами Трудового Красного Знамени (15.07.1980 г.), Красной Звезды (16.08.1936 г. и 16.07.1970 г.), орденом "За службу Родине в Вооруженных Силах СССР" III степени (30.04.1975 г.), Почетным оружием с золотым изображением Государственного герба СССР (22.02.1968 г.), а также 12 медалям СССР и 13 орденами и медалями иностранных государств.
Воинские звания: корпусной комиссар — присвоено 31 декабря 1937 г., комкор — 8 января 1938 г., генерал-лейтенант — 4 июня 1940 г., генерал-полковник -19 января 1943 г., генерал армии — 8 мая 1959 г., Маршал Советского Союза — 8 мая 1961 г.
Член КПСС с 1918 г., член ЦК КПСС в 1961—1966 гг., депутат Верховного Совета СССР 1, 4-6-го созывов.
Умер Ф.И. Голиков 29 июля 1980 г. Похоронен на Новодевичьем кладбище в Москве.