1943年，高加索戰役的攻防力量開始改變勢頭，德軍轉為守勢，蘇軍開始進攻。
1943年1月5日，格列奇科開始擔任第56集團軍司令。 2月9日，北高加索方面軍發起克拉**達爾戰役，隸屬於方面軍下屬黑海集團的第56集團軍在格列奇科率領下成功突破德軍堅固防線，12日解放克拉**達爾後繼續向西進攻，到3月16日戰鬥結束， 格列奇科將前線推進到克拉**達爾以西 60 70 公里處。
高加索戰役中的德國山地師。
1944年4月，北高加索方面軍開始進攻庫班橋頭堡，這是德軍在高加索地區的最後乙個據點。 格列奇科的第 56 集團軍奉命突破德國中將恩斯特·魯普 （Ernst Rupp） 的第 97 獵兵師的防線，以占領克雷姆斯卡亞。
4月4日，格列奇科發動進攻，但未能突破主陣地。 然後他調整了行動，14日，格列奇科派出三個師，每個師有乙個單獨的坦克營帶頭，一舉闖入德軍3公里以內的防禦，占領了前沿陣地。 24 日，第 56 集團軍繼續進攻德軍二線陣地，到 5 月 4 日占領了克里姆斯卡亞。 4月28日，格列奇科晉公升為中將軍銜。
1943 年 9 月，在新羅伊斯克 10 月水泥廠的守軍堅持了 360 天後，格列奇科指揮第 56 集團軍與第 9 集團軍和第 18 集團軍合作，在高加索地區對德軍發動了最後的戰鬥，並開始了新羅西斯克-塔曼戰役。
9 月 14 日，第 56 集團軍在格列奇科的指揮下發動進攻，在格拉德科夫斯卡婭-戈斯塔加耶夫斯卡婭周圍地區發動進攻，迫使德軍向西撤退到塔曼半島的港口，到 10 月初，第 56 集團軍已進入塔曼半島。 到 10 月 9 日，格列奇科已指揮部隊占領了整個半島北部和丘什卡，並最終清除了德軍在庫班河下游的據點。 同一天，格列奇科晉公升為將軍，同時被授予一級庫圖佐夫勳章。
庫圖佐夫勳章。
1943 年 10 月 16 日，格列奇科成為沃羅涅日方面軍副司令，20 日，該方面軍更名為烏克蘭第 1 方面軍。 參與恰逢第聶伯河戰役的開始。 格列奇科與司令瓦圖京將軍一起指揮方面軍部隊完成了解放基輔的戰役，並於 11 月 6 日，即十月革命周年紀念日的前一天解放了基輔。 為了擊退德軍對基輔的反擊，最高統帥部將第1近衛集團軍從大本營預備隊調到烏克蘭第1方面軍，12月，格列奇科被任命為這支軍隊的指揮官。
1943 年 12 月 24 日，格列奇科上校在第 1 近衛集團軍的指揮下參加了烏克蘭右岸戰役，從日托公尺爾-別爾季切夫方向進攻，在卡梅涅茨-波多爾斯基附近擊潰了德國第 6 裝甲集團軍的 1 個師，將前線推進到基輔以西 200 公里處。
1944 年 1 月，格列奇科在普羅斯庫羅夫列諾維採戰役中指揮第 1 近衛集團軍，解放了烏克蘭大部分地區，並將前線推進到羅馬尼亞邊境。 為此，1944 年 5 月 1944 日，格列奇科被授予一級蘇沃洛夫勳章，這是勝利勳章出現之前蘇聯的最高軍事榮譽。
1944 年 7 月至 8 月，格列奇科在利沃夫-桑多梅日戰役中指揮第 1 近衛集團軍並解放了斯坦尼斯瓦夫，基本上將德國人趕出了波蘭。 後來，在東喀爾巴阡山脈戰役中，它進入了捷克斯洛伐克的領土。 11月3日，格列奇科獲得了他的第二個紅旗勳章。
1945年初，格列奇科指揮第1近衛集團軍和第1捷克斯洛伐克軍團在西喀爾巴阡山脈戰役中突破敵人的防禦工事，隨後參加了摩拉維亞-俄斯特拉發戰役。 5月，偉大衛國戰爭的最後一戰在布拉格戰役中消滅了最後一支德軍。
戰後，格列奇科於7月1945成為基輔軍區司令，並當選為烏克蘭共產黨政治局委員。 1946年，他當選為蘇聯第二屆最高蘇維埃代表。
1953年5月，格列奇科接任駐德蘇軍總司令。 就在他抵達乙個月後，東德發生了6月17事件，格列奇科採取了強硬行動，派坦克上街驅散示威者，導致55人死亡。 8月3日，他晉公升為將軍。 兩年後，即1955年3月11日，格列奇科和其他六人被授予蘇聯元帥軍銜，達到了他軍事生涯的頂峰。
東德街頭的蘇聯坦克。
1957年12月17日，格列奇科以國防部第一副部長兼蘇軍總司令的身份返回中國。 1960年7月，他成為華沙條約聯合武裝部隊總司令。 1967年，格列奇科擔任蘇聯國防部長。
1968年，捷克斯洛伐克爆發了“布拉格之春”，作為國防部長，格列奇科奉命出兵25萬對捷克斯洛伐克進行突然襲擊，占領捷克斯洛伐克全境。
當時，中蘇關係已經到了冰點。 1969年，當格列奇科聽到中蘇在珍寶島爆發衝突，蘇軍戰敗、數百人傷亡的訊息時，立即與軍隊中的強硬派崔可夫元帥一起罵罵咧咧，要“一勞永逸”地打擊中國，對中國使用原子彈。 著名的“外科手術核打擊”出自格列奇科之口。 不僅如此，他還計畫在新疆鐵勒克提地區伏擊中國邊防巡邏隊，以報復珍寶島的失敗，造成38名中國邊防警衛和3名民兵死亡。
在擔任國防部長期間，格列奇科為進一步加強蘇聯的軍事能力做了大量工作。 他致力於蘇聯軍隊的現代化建設，不遺餘力地擴大蘇聯武裝力量。 格列奇科認為，核戰爭將是下一次世界大戰中不可避免的事件，因此他計畫戰爭一開始，蘇聯將立即向北約國家發射所有核**。
1973年，格列奇科在蘇共第二十四屆五中全會上當選為蘇共政治局委員。 10月，他第二次被授予“蘇聯英雄”榮譽稱號，同時因其對鞏固蘇聯武裝部隊的貢獻而獲得金星獎章。
晚年的格列奇科。
格列奇科和勃列日涅夫是親密的私人朋友，在偉大衛國戰爭期間擔任高加索第18集團軍司令時，勃列日涅夫是外高加索方面軍黑海集群政治部副主任，也曾在第18集團軍服役。 但當愛到極點騎士團的勃列日涅夫想要獲得“蘇聯元帥”的軍銜時，格列奇科卻不給老朋友總書記面子，認為勃列日涅夫沒有資格當元帥，私下裡說“等死都不可能”。 結果，事實證明，勃列日涅夫在格列奇科死後兩周才真正成為蘇聯元帥。
1976年4月26日，格列奇科病逝，遺體被埋在克里姆林宮的城牆下。
格列奇科曾兩次獲得“蘇聯英雄”稱號，曾獲得6枚列寧勳章、3枚紅旗勳章、2枚一級蘇沃洛夫勳章、2枚一級庫圖佐夫勳章、1枚一級博赫丹·赫梅利尼茨基勳章和1枚二級蘇沃洛夫勳章。2002年，在俄羅斯軍事學院評估的偉大衛國戰爭將軍中，格列奇科在所有兵種聯合軍隊的33名指揮官中排名第4。