上級每次組織軍事演習，朱可夫團的成績都名列前茅。這不僅進一步引起高階軍事領導人的注意，而且在全軍中也逐漸有了名氣。此後，他雖然擔任了更高的職務，但仍然十分關心坦克部隊。１９３３年，他曾和當時的紅軍總參謀長沙波什尼科夫一道，提出了坦克部隊可以在現代戰場上單獨使用的新概念。這種見解曾在蘇軍少壯派中佔了上風，但後來因斯大林未被說服，坦克部隊一度解散。

１９３７—１９３８年。斯大林對軍隊中的所謂政敵及其支持者進行了無情的打擊，許多師長、軍長、集團軍司令乃至元帥，都遭到了清洗。朱可夫不僅沒有受到任何傷害，反而得到了提拔。據同時代人回憶，這一方面是由於斯大林對騎兵部隊領導人的信任，另一方面是由於斯大林對朱可夫本人極為賞識，特別是對他在坦克團擔任領導工作時的印象極深。

朱可夫擔任白俄羅斯軍區副司令職務時，隨同一個蘇聯軍事使團到中國觀察日本人的戰略戰術，並擔任了駐華軍事顧問。隨後，蘇方派出１０００多名軍事顧問、飛行員，支援中國的抗日戰爭。１９３９年春，朱可夫接到通知，要他立即離華回國接受新的任務。不久，他被派往蒙古，任駐蒙蘇軍第一集團軍群司令員，以加強蘇聯在遠東對日本的防務。這時，蘇、蒙軍隊和日本關東軍正在進行哈勒哈河戰役。朱可夫到任後，立即調整了作戰部署，並親臨前線指揮，從而取得圍殲日軍重兵集團的勝利，他本人榮膺蘇聯英雄稱號。

衛國戰爭初期，蘇軍失利。朱可夫作為大本營的代表，曾同西南方面軍指揮員一起，使用幾個機械化軍在布羅德地域組織實施反突擊，阻止了德軍閃電般的推進。這雖然沒有達到預期的結果，但卻為他以後使用坦克機械化部隊提供了經驗。１９４２年７月，基輔危在旦夕，擔任蘇軍總參謀長的朱可夫向斯大林建議：放棄基輔，以便在耶爾尼亞組織防禦，阻止德軍向莫斯科進攻。斯大林對此極為不滿，並說這是胡說八道。朱可夫壓抑不住衝動的感情，幾乎忘記了站在他面前的是最高統帥，便反駁道：“如果你認為我這個總參謀長只會胡說八道，這裡也就用不著我了。我請求解除我的職務，把我派往前線。”斯大林果然在幾小時之後命令朱可夫立即動身去擔任預備隊方面軍的司令員。到任後，他率領方面軍在耶爾尼亞地域成功地實施了衛國戰爭以來的第一次進攻戰役，重創了德軍突擊集團。

此後，哪裡形勢危急朱可夫就被調到哪裡。１９４１年９月，列寧格勒形勢危急，他受命出任方面軍司令員。到任後立即停止了正在研究撤退方案的會議，果斷地撤換了兩個集團軍司令，制定了守城計劃。在人民的支援下，終於阻止了德軍的進攻。列寧格勒方面還處在膠著狀態，德軍又以１８０萬大軍向莫斯科發動總攻，首都在危急中。朱可夫奉命於１０月７日乘飛機到達莫斯科之後，與斯大林只談了一刻鐘的話，就前往西方方面軍，指揮極端困難的莫斯科戰役。開始，他奔波於各部隊之間，瞭解情況，部署任務，組織部隊頑強地阻擊敵人。１８日，德軍兵臨莫斯科城下。朱可夫立即建議統帥部宣佈全城戒嚴。１０天之內，朱可夫便把４萬多工人、科技人員和大學生等編成了４個師，加強莫斯科的防禦。從此，穩定了局勢，保證了慶祝十月革命節的遊行和紅場閱兵。１１月中旬，正當德軍準備再次發動進攻之前，朱可夫採取了先發制人的手段，組織西方方面軍與加里寧方面軍、西南方面軍協同作戰，發動了反突擊，給敵以重創。將其驅至距莫斯科１００—３５０公里一線。

１９４２年１月，朱可夫擔任了加里寧方面軍和西方方面軍的總司令。７月底，軸心國軍已有３０個師向斯大林格勒逼近，蘇軍也集中了三個方面軍部隊７月１７日，一場惡戰開始了。朱可夫指揮的部隊。頑強地抗擊瘋狂進攻的敵人，雖然大量消耗了德軍的有生力量，但戰場形勢仍十分危險。８月２７日，朱可夫被國防委員會任命為最高統帥的副手，負責全盤指揮斯大林格勒戰役。朱可夫只用一天時間在大本營研究形勢，第二天就乘飛機前往前線指揮部。他以天才的指揮藝術和超人的工作效率，解決了防禦作戰中一系列極其困難的問題，保證了防禦的穩定。從１１月開始，朱可夫和華西列夫斯基、沃羅諾夫等制定了“天王星”反攻方案。１１月１７日，蘇軍揭開反攻序幕，到１９４３年２月初，以蘇軍全殲被圍的３３萬敵軍而結束，實現了第二次世界大戰的轉折。１９４３年１月１８日，朱可夫被授予蘇聯元帥軍銜。這年他４８歲。

衛國戰爭的最後階段，朱可夫擔任白俄羅斯第一方面軍司令員，率部於