Родился 5 мая 1923 г. в с. Виндрей Торбеевского района Мордовской АССР; русский. В 1942 г. окончил 2-е Астраханское пехотное училище по 2-месячной программе; в 1945 г. — Высшую офицерскую школу самоходной артиллерии БТ и MB; в 1952 г. — с отличием и золотой медалью командный факультет Военной академии БТ и MB; в 1967 г. — с отличием и золотой медалью Военную академию Генерального штаба ВС СССР.
На военную службу был призван 30 июня 1940 г. После окончания училища с 17 октября 1942 г. по февраль 1943 г. — командир стрелкового взвода, затем адъютант старший (начальник штаба) стрелкового батальона (по июнь 1943 г.), помощник начальника штаба полка (по июль 1943 г.), врид командира мотобатальона автоматчиков (июль—ноябрь 1944 г.).
После Великой Отечественной войны с сентября 1945,г. по сентябрь 1947 г. — командир батальона. С июля 1952 г. по август 1955 г. — начальник штаба полка, по декабрь 1957 г. — командир танкового полка. Затем заместитель командира танковой дивизии (по декабрь 1960 г.) и командир танковой (учебной) дивизии (по сентябрь 1965 г.).
После завершения учебы в Военной академии Генерального штаба назначается начальником штаба 8-й танковой армии (июль 1967 г. — октябрь 1968 г.), затем командующим 7-й танковой армией (по май 1972 г.).
В аттестации, написанной командующим войскйми Белорусского военного округа генерал-полковником И.М. Третьяком, отмечалось, что "командующий 7-й танковой армией... с высоким чувством ответственности относится к выполнению порученного дела. По своему характеру прямой, правдив и принципиален".
С мая 1972 г. по март 1974 г. С.Ф. Ахромеев возглавляет штаб Дальневосточного военного округа, а по февраль 1979 г. — начальник Главного оперативного управления — заместитель начальника Генерального штаба ВС СССР. Маршал Советского Союза Огарков Н.В., аттестуя своего заместителя в 1978 г., писал, что С.Ф. Ахромеев "твердо изучил и хорошо знает состояние и перспективы развития наших Вооруженных Сил и вероятного противника... Волевой и решительный генерал. Ответственности и трудностей в работе не боится".
С февраля 1979 г. по сентябрь 1984 г. он — первый заместитель начальника Генерального штаба ВС СССР, а затем по декабрь 1988 г. — начальник Генерального штаба ВС СССР, по август 1991 г. — генеральный инспектор Группы генеральных инспекторов МО СССР (советник Президента СССР).
С.Ф. Ахромееву присвоено звание Героя Советского Союза (7.05.1982 г.). Он награжден 4 орденами Ленина (23.02.1971 г., 21.02.1978 г., 28.04.1980 г., 7.05.1982 г.), орденом Октябрьской Революции (7.01.1988 г.), 2 орденами Красной Звезды (15.09.1943 г., 30.12.1956 г.), орденами Отечественной войны I степени (6.04.1985 г.) и "За службу Родине в Вооруженных Силах СССР" III степени (30.04.1975 г.), а также 16 медалями СССР и 24 орденами и медалями иностранных государств.
Воинские звания: полковник — присвоено 8 декабря 1956 г., генерал-майор танковых войск -13 апреля 1964 г., генерал-лейтенант танковых войск — 21 февраля 1969 г., генерал-полковник — 30 октября 1974 г., генерал армии — 23 апреля 1979 г., Маршал Советского Союза — 25 марта 1983 г.
Член КПСС с августа 1943 г., депутат Верховного Совета СССР и РСФСР с 1980 по 1989 гг. и член ЦК КПСС с 1983 г.
Скончался С.Ф. Ахромеев 24 августа 1991 г. Похоронен на Троекуровском кладбище в Москве.