Родился 26 мая (7 июня) 1897 г. в д. Назарьево Московской обл., из крестьян, русский. В 1911 г. окончил сельскую школу, в 1914 г. — вечерние образовательные курсы, в 1921 г. — Военную академию РККА, в 1928 г. — Курсы усовершенствования высшего начсостава.
Служил в царской армии с июня 1916 г. С августа 1917 г. — начальник штаба Красной гвардии в г. Судогда Ивановской обл.
В Советскую Армию вступил добровольно из Красной гвардии в мае 1918 г., он был комиссаром партизанского отряда (по ноябрь 1918 г.), затем слушателем академии Генерального штаба РККА (по май 1919 г.), помощником начальника штаба стрелковой бригады (по октябрь 1919 г.), вновь слушателем академии Генерального штаба РККА (по май 1920 г.), помощником начальника штаба дивизии (по август 1920 г.), и опять слушателем академии Генерального штаба РККА (позднее Военная академия РККА) (по октябрь 1921 г.), начальником штаба кавалерийской дивизии (по октябрь1922 г.).
В его аттестации за 1922 г. отмечается: "... пользуется авторитетом среди начальствующего состава и красноармейцев. Дисциплинированный и усидчивый. Имеет боевой опыт гражданской войны, умело применяет его в практической работе..."
С конца 1922 г. — инспектор Главного управления милиции (по апрель 1923 г.), затем помощник начальника штаба стрелкового корпуса (по октябрь 1923 г.), начальник штаба дивизии (по июль 1924 г.), помощник начальника штаба округа (по июль 1928 г.), заместитель начальника штаба округа (по май 1930 г.), командир стрелковой дивизии (по февраль 1931 г.), начальник штаба Московского военного округа (по апрель 1932 г.), начальник штаба Белорусского военного округа (по декабрь 1934 г.).
В его аттестации за это время отмечается: "...B оперативном отношении изучил театр Белорусского военного округа, провел огромную работу по вопросам управления, тактической подготовки войск и штабов..."
С декабря 1934 г. по март 1936 г. К.А. Мерецков — начальник штаба Отдельной Краснознаменной Дальневосточной армии, по май 1937 г. — «в распоряжении Народного Комиссара обороны СССР (спецкомандировка в Испанию)», после возвращения — заместитель начальника Генерального штаба РККА (по сентябрь 1938 г.), командующий войсками округа (по август 1940 г.), начальник Генерального штаба Красной Армии (по январь 1941 г.).
В годы Великой Отечественной войны — заместитель народного комиссара обороны по боевой подготовке (по октябрь 1941 г.), командующий армией (по декабрь 1941 г.), командующий войсками фронта (по апрель 1945 г.).
После войны — командующий войсками округа (по май 1954 г.), начальник курсов "Выстрел" (по август 1955 г.), помощник министра обороны СССР по высшим военно-учебным заведениям (по апрель 1964 г.), генеральный инспектор Группы генеральных инспекторов Министерства обороны СССР (по декабрь 1968 г.).
К.А. Мерецков — Герой Советского Союза (21.03.1940 г.). Он награжден 7 орденами Ленина (3.01.1937 г., 21.03.1940 г., 2.11.1944 г., 21.02.1945 г., 6.06.1947 г., 6.06.1957 г.,6.06.1967 г.), орденом Октябрьской Революции (22.02.1968 г.) и Почетным оружием с золотым изображением Государственного герба СССР (22.02.1968 г.), 4 орденами Красного Знамени (22.02.1928 г., 2.03.1938 г., 3.11.1944 г., 6.11.1947 г.), 2 орденами Суворова I степени (28.01.1943 г., 21.02.1944 г.), орденом Кутузова I степени (29.06.1944 г.), орденом "Победа" (8.09.1945 г.), а также 10 медалями СССР, 4 орденами и 2 медалями иностранных государств.
Воинские звания: комкор — присвоено 22 февраля1938 г., командарм 2 ранга -1939 г., генерал армии — 4 июня 1940 г., Маршал Советского Союза — 26 октября 1944 г.
Член КПСС с 1917 г., кандидат в члены ЦК КПСС (1939 г. — 1956 г.), депутат Верховного Совета СССР 1- 5-го созывов.
Умер 30 декабря 1968 г. Похоронен на Красной площади в Москве.