科涅夫因為在勒熱夫戰役中表現不佳，加上與斯大林意見不合，於1943年7月被調任草原方面軍司令。這個方面軍擔任的是替補角色，屬於蘇軍的戰略預備隊。此時，蘇軍中很多優秀的將領已經建立了自己的功勳，成為了斯大林的心腹愛將，而科涅夫在兜兜轉轉後，仍然是無人問津的邊緣人，甚至只能去二線部隊看海。

1943年7月5日，庫爾斯克戰役開始。德軍在北面的進攻被強大的中央方面軍阻擋，很快陷入停滯狀態。但在南面，由曼施坦因指揮，實力強大的南方集團軍群面對軍事力量不如中央方面軍的沃羅涅日方面軍，取得了一定戰果。在霍特的48裝甲集團軍和黨衛軍第2裝甲集團軍突入蘇軍防線縱深35公里後，被卡圖科夫的坦克第一集團軍糾纏住。不得不於11日轉向東北方向，企圖迂迴卡圖科夫所部。此時瓦圖京手下已經沒有裝甲預備隊，科涅夫隨即接到大本營命令，指派第5坦克集團軍和第5集團軍調歸瓦圖京指揮。經過在普羅霍洛夫卡與其他地域的激烈的戰鬥，德軍的攻勢被遏制。

與現在被誇大的戰爭結果不同，著名的普羅霍洛夫卡戰鬥的規模要小得多。蘇軍在此地的戰鬥更多的被認為是一次戰術失敗，由於第5坦克集團軍指揮官羅特米斯特洛夫的魯莽行動，7月12日參戰的約600輛坦克損失300至400輛，德軍損失遠小於戰後蘇聯方面資料所表述的，直到現在，大部分主流資料仍然高估了德軍坦克在此役的戰損。真正導致德軍攻勢停頓的主要原因是蘇軍成熟的多兵種反坦克防禦系統以及大規模火炮的攻擊。這些手段造成德軍機械化部隊的嚴重減員，尤其是與坦克協同作戰的裝甲擲彈兵。加上此時盟軍已經在西西里登陸，焦頭爛額並缺乏進攻信心的希特勒叫停了這次進攻行動。

擁有強大恢復能力與日漸成熟作戰技巧的蘇軍沒有放過這個機會，迅速在全部戰線上進行反擊。科涅夫在缺乏坦克支援的情況下迅速前推至哈爾科夫城下（原屬草原方面軍的第五坦克集團軍已劃撥給沃羅涅日方面軍）。從衛國戰爭開始至今，在這裡蘇軍已經遭遇了三次慘重的失敗，包括曼施坦因的傑作哈爾科夫反擊戰。科涅夫吸取了以前的經驗教訓，利用斯大林格勒戰役後德軍害怕被合圍的特性，使用中國兵法裡邊圍三闕一的思想，從三面包圍了城市，但故意留出了一條逃跑的路。在德軍準備棄城而逃的前天晚上，科涅夫派出部隊發起夜襲，並順利地解放了哈爾科夫，最大限度地減輕了這座工業重鎮受到的戰爭損傷，以使其大部分工廠能夠馬上順利地投入到蘇軍的裝備生產當中。德國人在哈爾科夫城下的輝煌戰績被終結。

強渡第聶伯河

為了防止曼施坦因故技重施，科涅夫命令部隊不停地滲透、突擊撤退的德軍，同時讓航空兵進行高強度的空襲，使德軍完全無法組織起有效的反擊。這之後，科涅夫帶領的草原方面軍一發不可收拾，強渡第聶伯河，解放波爾塔瓦，並在基洛夫格勒巧妙地圍殲了一隻德軍，其劈波斬浪之勢讓其他蘇軍部隊汗顏，迅速成為了斯大林眼中的紅人，成功地完成了鹹魚翻身。在蘇軍反擊階段，科涅夫充分發揮了自己的進攻天賦，這讓另一位蘇軍名將瓦圖京在他的表現下相形見絀。

朱可夫在回憶錄中寫道：“戰爭初期，斯大林對科涅夫的態度是不好的，多次撤去他的方面軍司令職務。可是後來由於科涅夫指揮草原方面軍有方，接二連三地取得了戰役的勝利和成功時，斯大林發現科涅夫很會打仗，於是就改變了對他的態度。”

1943年10月，科涅夫麾下的草原方面軍改名為烏克蘭第2方面軍，並繼續在南部戰線展開兇猛的攻勢。在11月解放基輔後，烏克蘭第1、第2方面軍對德軍的進攻形成了對科爾遜—切爾卡瑟突出部的包圍態勢，曼施坦因認為應該警惕蘇軍動向，最好考慮後撤以拉平戰線。但是希特勒認為這是德軍第聶伯河防線上僅剩的最後一塊土地，必須守住。同時德軍方面認為蘇軍連續作戰，已成疲憊之師，加上進入1944年冬末春初季節，道路泥濘，並不適合發起大規模的裝甲突擊。蘇軍應該會休整數月，因此德國人並未進行過多準備。