Однако успеху на острие наступления сопутствовали пассивные действия правого фланга Юго-Западного фронта и почти полное бездействие Южного. Кроме того, организованная советскими войсками оборона была крайне слабой, не оснащенной технически и не подготовленной к возможному контрнаступлению вермахта. Это позволило немцам перебросить людские, танковые и авиационные резервы к основанию Барвенковского плацдарма для нанесения решающего удара.

17 мая началось контрнаступление немцев. В первый же день летчики Люфтваффе обрели господство в воздухе, а 1-яя танковая армия вермахта прорвала оборону 9-й армии, оборонявшей южную часть Барвенковского плацдарма, создавая угрозу окружения советским войскам. Понимая тяжесть положения, начальник Генерального штаба генерал-лейтенант Василевский предложил Сталину отвести части 6-й, 57-й и 9-й армий, но получил отказ. На это решение повлияли Тимошенко и Хрущев, все еще верившие во взятие Харькова. Это подтверждает донесение главнокомандования Юго-Западного направления, в котором содержится информация о переброске небольших сил для отражения контрнаступления немцев (80 танков), а также просьба выделить резервы для усиления Южного фронта. Но время было упущено, и 23 мая 1942 года кольцо вокруг советских частей замкнулось.

Лишь 25 мая 1942 года начались отчаянные попытки прорваться к своим. Но практически все они оказались безрезультатными, а уже 26 мая части окруженных были рассечены надвое и поодиночке разбиты к 31 мая. Лишь небольшим группам удалось ценой невероятных усилий прорвать окружение, но большая часть войск так и осталась в котле. Всего за несколько дней погибло порядка 170 тысяч человек, по немецким данным, в плен попало еще 240 тысяч, а также было захвачено свыше 1200 танков, 2000 орудий и 538 самолетов. Пропали без вести, погибли или были пленены несколько советских генералов, включая двух командующих армиями, начальника кавалерии, а также командиров дивизий, что было сопоставимо с итогами тяжелого 1941 года.

Харьковская операция, во многом похожая на Ржевско-Вяземскую и Любанскую, отличалась от них только тем, что столь колоссальные потери были понесены всего за две недели боев. Кроме того, если командующий 33-й армией генерал Ефремов застрелился, не желая сдаваться в плен, а командующий 2-й Ударной генерал Власов оказался в плену у немцев, то маршал Тимошенко сумел вырваться из котла живым и невредимым. К сожалению, он не оставил после себя мемуаров, видимо, осознавая, что в них нельзя было обойти тему столь тяжелого поражения.

Зато подробные мемуары написал Никита Хрущев. Нашлось в них место и для описания Харьковской катастрофы. По мнению Хрущева, в тот момент, когда он вместе с руководством Юго-Западного фронта осознал угрозу, которую нес слабый левый фланг и возможный удар по нему, наступление было прекращено. Однако вскоре к Хрущеву явился Баграмян, сообщивший об отмене Ставкой приказа о переходе к обороне, что могло обернуться катастрофой. Хрущев несколько раз звонил Сталину, однако убедить вождя остановить наступление не смог. Была попытка повлиять на Верховного через Василевского, но тот заявил, что Сталин уже принял решение.

В результате из воспоминаний Хрущева можно сделать вывод, что главным виновником катастрофы являлся Сталин, не внявший просьбам о приостановке наступления, а косвенным виновником стал Василевский, не сумевший убедить вождя в высокой вероятности поражения. В свою очередь Василевский описывает ситуацию несколько иначе. Он также упоминает о разговоре с Хрущевым и его просьбах поговорить со Сталиным, однако говорит и о том, что сам пытался убедить вождя в необходимости перехода к обороне, но получил отказ, поскольку Сталин ссылался как раз на донесения Юго-Западного направления. Василевский также сообщает и о точной дате, когда Тимошенко наконец прекратил наступление – 19 мая 1942 года, когда ударная группировка противника уже вошла в тылы наступающим советским частям.

Упоминает о Харьковской операции и Баграмян. В своей книге «Так шли мы к победе» он подробно описывает предшествующие неудачному наступлению события и действия частей в ходе боев. Так как именно Баграмян был одним из разработчиков операции, то вопрос о виновниках трагедии он воспринимал наиболее остро, поскольку именно его Сталин назначил ответственным за поражение, о чем лично писал 26 июня 1942 года Военному совету Юго-Западного фронта:

«Тов. Баграмян не удовлетворяет Ставку не только как начальник штаба, призванный укреплять связь и руководство армиями, но не удовлетворяет Ставку даже и как простой информатор. <…> Тов. Баграмян назначается начальником штаба 28-й армии. Если тов. Баграмян покажет себя с хорошей стороны в качестве начальника штаба армии, то я поставлю вопрос о том, чтобы дать ему потом возможность двигаться дальше».

Согласно мнению Баграмяна, виновниками поражения стали не только командование Юго-Западного направления и Ставка, но и командующий Южным фронтом Родион Малиновский, который своей пассивностью позволил немцам перераспределить свои силы и провести контрнаступление.

Иосиф Сталин в вышеупомянутом письме говорил также и о Тимошенко с Хрущевым, но им он сделал лишь устное предупреждение:

«Вы должны учесть допущенные Вами ошибки и принять все меры к тому, чтобы впредь они не имели места».

Столь мягкое «наказание» явно не соответствует тому, как поступили с командующим бронетанковыми войсками Юго-Западного фронта генерал-лейтенантом Владимиром Тамручи: его сперва снимают с должности и направляют в Военную академию, через год арестовывают. Семь лет он провел в Сухановской тюрьме под следствием, после чего скончался 28 октября 1950 года.

Сразу после провала операции командование Юго-Западным направлением направляет в Ставку подробный доклад, где отдельно выделяются причины поражения. Подробно описаны слабость 9-й армии, прорыв обороны которой в дальнейшем приведет к поражению, неспособность отдельных командиров управлять войсками, запоздалые решения о переброске танковых соединений и слабость авиации. Подобные ошибки, ответственными за которые были и Тимошенко, и Хрущев, и Баграмян, и другие военачальники, не только стоили жизни сотням тысяч советских солдат, но и дали немцам шанс на возможную победу. Уже 7 июля 1942 года развившие наступления войска вермахта заняли правобережье Воронежа и вскоре вышли к Сталинграду, что грозило тяжелыми последствиями. Спустя год после начала войны, СССР вновь стоял на краю гибели. Теперь судьба страны решалась здесь, на Волге.