Глубокое вклинение в оборону противника было связано с большим риском. В это время левое крыло войск Жукова нанесло новый удар в южном направлении на Тарнополь. Этот удар, хорошо рассчитанный по времени, был нанесен сразу же после отражения контратак немцев у Тарнополя. Организовав оборону, русские отбили контратаку и двинулись следом за отходившим противником. Удар имел целью соединиться с наступающими войсками Конева. После быстрого продвижения к Днестру войска Конева повернули на юг вдоль восточного берега реки, охватывая фланг противника и прижимая его к правому крылу войск Конева. Этот комбинированный удар не только обеспечивал безопасность флангов наступающих войск, но и открывал хорошие перспективы для развития успеха.

Нанося эти фланговые удары, русские расширяли полосу прорыва и окружали силы противника, слишком поздно начавшие отход. Кроме того, русские продолжали продвигаться и в западном направлении. До конца марта войска Конева вышли к Пруту у Ясс, а войска Жукова овладели важными пунктами Коломыя и Черновцы, форсировав Прут в верхнем течении. Русские, таким образом, подошли вплотную к Карпатам.

Немцам необходим был этот горный барьер, и не только чтобы помешать вторжению русских на Центрально-европейскую равнину, но и для ведения длительной обороны Балканского полуострова. Карпаты, к которым на юге примыкают Трансильванские Альпы, представляют собой отличный естественный оборонительный рубеж. Протяженность этой горной гряды в стратегическом отношении уменьшается из-за сравнительно небольшого числа перевалов, и, таким образом, создается возможность сэкономить силы. Между Черным морем и горной местностью у Фокшаны находится равнинный участок шириной 120 миль, однако его восточную часть занимают дельта Дуная и цепочка озер, поэтому ширина опасной зоны фактически составляет 60 миль в районе Галацкого прохода.

В начале апреля казалось, что немцы вот-вот отойдут на этот тыловой оборонительный рубеж, северо-восточной части которого уже угрожали войска Жукова, прорвавшиеся между Тарнополем и Черновцами в направлении Яблоницкого перевала. Казалось, Жуков намеревается внезапно обрушиться на Будапешт, как это однажды сделал Сабутай, который командовал монгольскими ордами Чингисхана и в марте 1241 года прорвался через Венгерскую равнину к Дунаю.

1 апреля передовые части Жукова подошли к Яблоницкому перевалу. Горы здесь значительно ниже и положе, чем на юге. Перевал лежит на высоте не более 2 тыс. футов над уровнем моря. Но даже при столь незначительной высоте в случае упорной обороны перевал преодолеть нелегко, поскольку свобода маневра наступающих войск ограничена. И действительно, рядовым частям не удалось с ходу прорваться через перевал, а потом не хватило сил, чтобы сразу возобновить наступление. После стремительного продвижения войска нуждались в пополнении запасов средств материального обеспечения.

Немцы же оказались в выгодном положении, отойдя к сети коммуникаций, опирающейся на Львов. С отходом в Галицию у них появилась возможность сосредоточить свои силы. На следующей неделе немцы нанесли сильный контрудар. Они преследовали двойную цель — остановить продвижение русских и вырвать из окружения 18 дивизий 1-й танковой армии, пойманных в ловушку восточнее Днестра войсками Жукова и Конева. Эта группировка попыталась пробиться на запад через Скалу и Бузак к Львову.

Продвижение войск Конева за Прутом было приостановлено неподалеку от реки. Русским не удалось прорваться к Яссам, находящимся всего в 10 милях западнее Прута, но они вышли к Серету, несколько севернее. Перед Коневым, однако, в этот момент стояла более важная цель. Левое крыло его войск продвигалось на юг вдоль Днепра в тыл войскам противника. Здесь действовали в основном румынские части. Фланговый удар войск Конева совпал с наступлением войск Малиновского из района Николаева на Одессу.

Эта угроза поставила в трудное положение Шернера, который сменил Клейста на посту командующего бывшей группой армий «А» (теперь она называлась группой армий «Южная Украина»), и Моделя, который сменил Манштейна на посту командующего группой армий «Северная Украина» (раньше называлась группой армий «Дон» и группой армий «Юг»). Трудности для Шернера усугублялись бедственным состоянием и слабостью коммуникаций в тылу, так как после выдвижения русских к Карпатам его войска оказались отрезанными от армий в Польше и могли пользоваться лишь дорогами через Балканы и Венгрию.

В это время тяжелые бомбардировщики союзной авиации, базирующиеся в Италии, нанесли серию ударов по узлам коммуникаций. Первыми объектами их ударов стали Будапешт, Бухарест и Плоешти. Однако эти удары, нанесенные в первую неделю апреля, уже не могли оказать непосредственного влияния на ход событий.

5 апреля войска Малиновского вышли к станции Раздельная, лишив противника возможности пользоваться единственной оставшейся в исправности железнодорожной линией из Одессы. 10 апреля этот крупный порт был занят. Большей части войск противника удалось ускользнуть. Они отошли к нижнему течению Днестра. Отсюда линия фронта тянулась к Яссам.

В первую неделю мая войска Конева нанесли мощный удар западнее Ясс по обоим берегам Серета, использовав в этих боях новые танки ИС.

В апреле был освобожден Крым. Численность оккупантов, наполовину немецких, наполовину румынских, на этом полуострове постепенно сокращалась путем эвакуации по морю. Наступающие войска русских испытывали трудности, поскольку противнику не требовалось больших сил, чтобы удерживать два узких прохода в горах. Захват Крыма требовал нанесения удара крупными силами и хорошей организации наступления. Именно поэтому Гитлер долго удерживал этот полуостров, пока русские войска не продвинулись намного западнее его. В данном случае Гитлер мог вполне оправданно пожертвовать силами, оборонявшими Крым, ибо бои на полуострове отвлекали значительные войска русских в критический момент.

Главный удар на Крым нанесли войска Толбухина. Это было 8 апреля после разведки боем с целью вскрыть систему огня противника. Фронтальному удару на Перекопском перешейке содействовал вспомогательный удар через Сиваш во фланг и тыл противника. Когда в результате этого маневра были открыты ворота в Северный Крым, войска Еременко нанесли удар с Керченского полуострова. К 17 апреля наступающие войска двух группировок русских соединились в окрестностях Севастополя и захватили в плен 37 тыс. человек. Немцы пытались удержаться на позициях южнее Перекопа, вместо того чтобы сразу отойти к Севастополю. Это позволило Толбухину подтянуть танки, прорвать наспех занятую оборону, фронт которой был слишком растянут, и захватить в плен большую часть войск противника, прежде чем они сумели отойти к Севастополю.

Чтобы овладеть этим укрепленным городом, русские подтянули тяжелую артиллерию. У немцев же не хватало сил для создания обороны необходимой плотности. И все же Гитлер требовал любой ценой удерживать Севастополь. Русские перешли в наступление в ночь на 6 мая и быстро прорвались на северо-восточных подступах к городу между Инкерманом и Балаклавой. 9 мая Гитлер отменил свой приказ удерживать Севастополь, пообещав прислать корабли для эвакуации гарнизона. 10 мая гарнизон оставил город и отошел к полуострову Херсонес. 13 мая здесь сдались в плен 30 тыс. солдат и офицеров немецко-румынских войск. Лишь немногим удалось спастись морем. Большинство пленных составляли немцы. Еще до начала наступления русских немецкое командование эвакуировало румынские части, чтобы в обороне полагаться только на свои силы. Эта мера могла бы увеличить сроки обороны, если бы не фатальная жесткость плана оборонительных действий.

На другом крыле Восточного фронта в первые месяцы 1944 года русские тоже продвигались вперед, хотя и не так быстро, как на юге. В начале года немцы все еще стояли у Ленинграда. Их позиции от окрестностей города протянулись на 60 миль к востоку, а затем проходили вдоль р. Волхов до озера Ильмень. На другом берегу этого озера немцы удерживали города-крепости Новгород и Старая Русса. В середине января русские начали долгожданное наступление с целью снять блокаду Ленинграда. Нанеся удар с побережья западнее города, войска Говорова прорвались на левом фланге выступа, занятого немецкими войсками. Войска Мерецкова глубоко вклинились на правом фланге немцев у Новгорода. В результате блокада Ленинграда была снята и восстановлено железнодорожное сообщение с Москвой. Этот успех привел к изоляции Финляндии.