Родился 16 декабря (28 декабря) 1897 г. в д. Лодейно Подосиновского района Кировской обл., из крестьян, русский.
В 1912 г. окончил земское училище, в 1926 г. — Курсы усовершенствования высшего начсостава при Военной академии им. М.В. Фрунзе, а в 1934 г. — особый факультет этой же академии.
В Советской армии с августа 1918 г.: по июнь 1919 г. — военный комиссар Никольского уездного военного комиссариата Северного края; комиссар бронепоезда (по июль 1920 г.); командир бригады (по апрель 1921 г.); командир дивизии (по октябрь 1921 г.); начальник штаба армии (ноябрь 1922 г.); командир корпуса (август 1924 г.) и стрелковой дивизии (сентябрь 1925 г.).
В аттестации за 1926 г. отмечалось, что он "инициативный, энергичный и решительный командир. Общий и военный кругозор достаточен...".
С июля 1926 г. — командир — военком полка (по март 1930 г.), помощник и исполняющий обязанности командира стрелковой дивизии (март 1930 г. — март 1931 г.), командир — военком дивизии (март 1931 г. — декабрь 1932 г.). С декабря 1934 г. — командир стрелковой дивизии.
В аттестации за 1936 г. подчеркивалось, что его "военная подготовка после окончания академии вполне удовлетворительная. Командуя дивизией, имеет большие достижения, особенно на маневрах 1936 года. По характеру твердый и настойчивый".
С сентября 1937 г. — командир особого стрелкового корпуса (по сентябрь 1938 г.), командующий армией (по июнь 1940 г.), командующий войсками Забайкальского, затем Северо-Кавказского военных округов (по июнь 1941 г.).
В годы Великой Отечественной войны — командующий 19-й армией (июнь—октябрь 1941 г.), один месяц — заместитель командующего войсками Западного фронта, командующий войсками Калининского фронта (ноябрь 1941 г. — август 1942 г.), Западного фронта (по февраль 1943 г.), Северо-Западного фронта (март—июнь 1943 г.), Степного фронта (июнь 1943 г. — май 1944 г.), 1-го Украинского фронта (май 1944 г. — май 1945 г.).
После войны И.С. Конев — Главнокомандующий Центральной группой войск в Австрии (май 1945 г. — апрель 1946 г.), первый заместитель Главнокомандующего Сухопутными войсками — заместитель министра обороны по Сухопутным войскам (июнь 1946 г. — март 1950 г.), главный инспектор Советской Армии — заместитель министра Вооруженных Сил СССР (март 1950 г. — ноябрь 1951 г.), командующий войсками Прикарпатского военного округа (ноябрь 1951 г. — март 1955 г.), первый заместитель министра обороны и Главнокомандующий Сухопутными войсками (по март 1956 г.), первый заместитель министра обороны по общим вопросам (по апрель 1960 г.), генеральный инспектор Группы генеральных инспекторов Министерства обороны (по август 1961 г.), Главнокомандующий Группой советский войск в Германии (по апрель 1962 г.) и вновь генеральный инспектор Министерства обороны (по май 1973 г.).
И.С. Конев — дважды Герой Советского Союза (29.07.1944 г. и 1.06.1945 г.). Он награжден 7 орденами Ленина (29.07.1944 г., 21.02.1945 г., 27.12.1947 г., 18.12.1956 г., 27.12.1957 г., 27.12.1967 г., 27.12.1972 г.), орденом Октябрьской Революции (22.02.1968 г.), 3 орденами Красного Знамени (22.02.1938 г., 3.11.1944 г., 20.06.1949 г.), 2 орденами Суворова I степени (27.08.1943 г., 17.05.1944 г.), 2 орденами Кутузова I степени (9.04.1943 г., 28.07.1943 г.), орденом Красной Звезды (16.08.1936 г.), орденом "Победа" (30.03.1945 г.), Почетным оружием с золотым изображением Государственного герба СССР (22.02.1968 г.), а также 10 медалями СССР и 24 орденами и медалями иностранных государств.
Воинские звания: командарм 2 ранга — присвоено в марте 1939 г., генерал-лейтенант -4 июня 1940 г., генерал-полковник — 19 сентября 1941 г., генерал армии — 26 августа 1943 г., Маршал Советского Союза — 20 февраля 1944 г.
Член КПСС с 1918 г., член ЦК КПСС с 1952 г., депутат Верховного Совета СССР 1-8-го созывов.
Умер И.С. Конев 21 мая 1973 г. Похоронен на Красной площади в Москве.