В январе 1931 г. Хрущев был избран первым секретарем Бауманского, а через несколько месяцев — Краснопресненского райкома партии. В 1932 г. он уже второй секретарь Московского горкома партии. На XVII съезде ВКП(б), его избрали в ЦК. Вскоре после съезда Хрущев уже первый секретарь горкома и второй секретарь Московского обкома партии, а с 1935 г. — первый секретарь обкома. Он встал во главе Московской области в один из самых напряженных периодов ее истории. Москва представляла тогда из себя большую строительную площадку и была самой крупной в стране базой индустриализации. Шло строительство десятка предприятий-гигантов, проводилась генеральная реконструкция и перестройка города, строилось метро, прокладывал-, ся канал Москва — Волга. Перед Хрущевым чуть ли не каждый день вставали трудные задачи, при разрешении которых он имел много возможностей продемонстрировать свои выдающиеся организаторские способности. Возникали перед ним проблемы и другого рода — как действовать в условиях начавшихся репрессий. Тут он тоже сумел повести себя с большой ловкостью — все время находился в тесном контакте с органами НКВД и рьяно искал «врагов народа» в подчиненных ему ведомствах. Неизвестно ни одного случая, когда бы он отказался завизировать материалы для ареста своих ближайших сотрудников и друзей. Впрочем, Хрущев вел себя в эти годы так же, как большинство советских руководителей — был не хуже и не лучше их. Сталин, внимательно присматривавшийся к каждому партийному лидеру, остался им доволен — он сохранил Хрущеву жизнь и двинул его на новые высокие посты в партийной иерархии.
На январском 1938 г. пленуме ЦК Хрущев был избран кандидатом в члены Политбюро и вскоре стал первым секретарем нового ЦК КП Украины (старое партийное руководство этой республики было фактически поголовно расстреляно). Чистка в партийных и государственных органах Украины еще продолжалась, и здесь Хрущев повел себя так же, как в Москве — всемерно поддерживал НКВД и без малейшего колебания давал требовавшиеся от него санкции на арест. В 1939 г., после XVIII съезда, он был введен в состав Политбюро, то есть оказался в ближайшем окружении Сталина. Когда началась Великая Отечественная война, Хрущев принимал самое непосредственное участие в обороне Киева. После падения города и оккупации Украины он стал членом военного совета Юго-Западного фронта. В 1942 г. при его прямом руководстве разворачивалось неудачное наступление на Харьков. Потом он был членом военных советов Сталинградского, Южного, Воронежского и 1-го Украинского фронтов, участвовал в Сталинградской битве, битве на Курской дуге и в военных операциях по освобождению территории Украины. Военных талантов он не имел, но партийная работа у него всегда была поставлена образцово.
По свидетельству маршала Василевского, находившегося с ним в постоянном контакте, «Хрущев был человеком энергичным и смелым, постоянно бывал в войсках, никогда не засиживался в штабах и на командных пунктах, стремился видеться и разговаривать с людьми, и, надо сказать, его любили». Войну Хрущев кончил в звании генерал-лейтенанта. (В этом же звании он оставался до самой своей отставки, даже тогда, когда был руководителем страны и Верховным Главнокомандующим.) С 1944 по 1949 г. Хрущев работал Председателем Совета Народных комиссаров Украинской ССР (при этом он до. 1947 г. оставался и первым секретарем ЦК КП Украины). Когда он занял этот пост, Украина лежала в руинах. На плечи Хрущева легло руководство грандиозными по своим масштабам восстановительными работами. В кратчайшие сроки были восстановлены сотни предприятий, шахт, рудников, электростанций, тысячи километров железных и шоссейных дорог. В это горячее время Хрущев изъездил всю Украину (он и в дальнейшем никогда не любил руководить из кабинета) и побывал практически во всех крупных городах. Особое внимание он уделял возрождению Донбасса и Днепрогэса, а также посевным и уборочным компаниям. С декабря 1949 г. Хрущев — снова первый секретарь Московского обкома и секретарь Центрального комитета партии. Вплоть до самой смерти Сталина он был в числе его ближайших сподвижников. Рассказывали, что во время длительных ночных посиделок на ближней дачи в Кунцеве, где Сталин жил в последние годы, Хрущев лихо отплясывал гопака. Ходил он в ту пору в украинской косоворотке и изображал «широкого казака», далекого от каких-либо претензий на власть. Однако он был далеко не так прост, как могло показаться на первый взгляд, и дальнейшие события это подтвердили.