После окончания Гражданской войны Еременко, бывший на хорошем счету у командования как умелый и храбрый краском, был оставлен в кадрах Красной армии. С мая 1920 года он — адъютант штаба 79-го кавалерийского полка 14-й кавалерийской дивизии, а в 1922 году возглавил штаб своего полка, который к тому моменту был переведен в Таганрог. В 1924 году А. И. Еременко был принят слушателем кавалерийских курсов усовершенствования высшего начсостава РККА в Ленинграде, которые успешно окончил в 1925 году. Начальником курсов был выпускник Николаевского кавалерийского училища бывший полковник русской армии М. А. Баторский, не только известный кавалерист, но и опытный генштабист. Слушателями курсов вместе с Еременко были будущие маршалы Советского Союза И. X. Баграмян, Г. К. Жуков, К. К. Рокоссовский.

С Иваном Христофоровичем Баграмяном Еременко связывала дружба на протяжении всей жизни, о чем говорит надпись на оборотной стороне фотографии, сделанной Баграмяном: «Андрей! Спасибо тебе за хорошую дружбу, ты замечательный товарищ, настоящий друг, энергичный, волевой, со здравым смыслом, упорный в труде, в учебе. Береги свои замечательные качества. Ты своим упорством преодолеешь все трудности на своем пути. Пробьешь любую каменную стену».

В августе 1925 года Еременко был назначен начальником штаба 55-го кавалерийского полка 14-й кавалерийской дивизии, а вскоре принял командование полком. Более пяти лет он стоял во главе полка, приобретая столь необходимый будущему полководцу практический командный опыт.

Затем Еременко снова учится: в 1930–1931 годах — на курсах единоначальников при Военно-политической академии им. Н. Г. Толмачева. В 1935 году он оканчивает Военную академию им. М. В. Фрунзе, после чего его назначают помощником командира 14-й кавалерийской дивизии, в составе которой он воевал в годы Гражданской войны. В августе 1937 года полковник Еременко возглавил дивизию и 17 февраля того же года получил первое «генеральское» звание — комбриг. В июне 1938 года Еременко вступил в должность командира 6-го кавалерийского корпуса имени Сталина, в состав которого входили 6-я Кубано-Терская казачья Чонгарская дивизия имени С. М. Будённого и 36-я кавалерийская дивизия имени И. В. Сталина. Его корпус по праву считался одним из лучших и боеспособных соединений Красной армии. 9 февраля 1939 года Еременко был произведен в комдивы, а уже 4 ноября того же года — в комкоры. После введения в РККА генеральских званий ему 4 июня 1940 года было присвоено звание генерал-лейтенанта.

В 1939 году под командованием А. И. Еременко корпус принимал участие в Польском походе и освобождении Западной Белоруссии. В 1940 году, после присоединения Прибалтийских республик к СССР, 6-й кавалерийский корпус был переброшен в Литву. В своем дневнике Еременко сделал заметку: «23 июня 1940 г. город Телыпяй, Литва. Купался в озере, переплыл его, а оно имеет ширину 2 км. Местные жители поражены таким дерзким поступком».

Тем временем на смену коннице как наиболее маневренному роду сухопутных войск приходил новый — моторизованные войска. В Европе уже шла Вторая мировая война, когда в июне 1940 года А. И. Еременко было поручено формирование 3-го механизированного корпуса, расквартированного в районе Вильнюса. Командир корпуса одновременно становится и начальником столичного Вильнюсского гарнизона. За шесть месяцев командования корпусом Андрей Иванович превратил его в образцовое соединение. Позже командующий бронетанковыми и механизированными войсками РККА маршал бронетанковых войск Я. Н. Федоренко вспоминал: «3-й механизированный корпус по своей организованности и боевой подготовке лучший в Красной Армии».

В начале 1941 года Еременко принял командование 1-й Отдельной Краснознаменной армией, которая вошла в состав вновь созданного Дальневосточного фронта. На новой должности Еременко вел напряженную работу по усилению боевой готовности войск, охранявших восточные рубежи Родины.

22 июня 1941 года началась Великая Отечественная война. В самом начале войны Еременко постигло огромное горе: семья Андрея Ивановича — его жена и сын — остались в захваченном немцами Вильнюсе и погибли. Ровно через неделю после германского вторжения Еременко был отозван с Дальнего Востока и переведен на Западный фронт, заместителем главнокомандующего войсками Западного направления[4]. Немецко-фашистские войска рвались к Москве. Маршал Советского Союза С. К. Тимошенко, командовавший в июле 1941 года Западным фронтом и одновременно возглавивший Главное командование войсками Западного направления, в своих воспоминаниях отмечал: «Товарищ Еременко А. И. был моим заместителем, а затем и командующим Западным фронтом. Он очень много сделал для того, чтобы остановить наступление фашистских войск. Я хорошо знаю, какие нечеловеческие усилия, титаническую волю и героизм проявил тов. Еременко А. И. в начальный период войны, чтобы остановить наступление, а иногда и бегство наших войск, и заставить их драться с врагом. Мне неоднократно докладывали, что тов. Еременко все время подвергался смертельной опасности не только со стороны врага, но и со стороны изменников, предателей и трусов в среде наших войск, но он ничего не боялся и с большой преданностью и самоотверженностью делал свое командирское дело — обеспечивал оборону Родины.

Характерной чертой в стиле боевой деятельности тов. Еременко является то, что он всегда был близок к войскам, был в гуще самых тяжелых событий и на самых важных боевых направлениях и участках. Он умело, с большой силой воли и страшным упорством организовывал войска на отпор врагу и добивался в этом успехов, несмотря на превосходство противника в средствах.

В подобных боях товарищ Еременко был два раза тяжело ранен и оставался в строю до выполнения задачи. Мне помнятся два случая, когда было официальное донесение, что товарищ Еременко убит в контратаках, которые он организовывал и проводил».

Андрей Иванович, отвечавший за действия северного фланга Западного фронта, выехал в 22-ю армию, оборонявшуюся в районе Полоцка, а затем координировал 19-ю и 20-ю армии в безуспешной попытке вернуть Витебск. 10 июля началось Смоленское сражение, в ходе которого с советской стороны принимали участие войска четырех фронтов: Западного, Резервного, Центрального и Брянского. Для Красной армии на начальном этапе сражение носило оборонительный характер, однако во второй половине и до конца августа советское командование провело несколько контрнаступательных операций. В результате Смоленского сражения сильнейшая группировка немецких войск — группа армий «Центр» — была вынуждена перейти к обороне. Советским войскам ценой огромных усилий и жертв удалось задержать на два месяца наступление немецко-фашистских армий на московском направлении.

Шестнадцатого августа 1941 года генерал-лейтенанту Еременко было поручено возглавить формирование Брянского фронта, перед которым была поставлена задача прикрыть подступы к столице с юго-запада. В чрезвычайно сложной обстановке в ходе ожесточенных боев фронт был создан и в течение полутора месяцев стойко сражался. 11 сентября А. И. Еременко было присвоено звание генерал-полковника. 30 сентября началась битва за Москву. Первый день этого сражения был ознаменован таранным ударом самой сильной и маневренной группировки гитлеровских войск — 2-й танковой группы генерал-полковника Г. Гудериана по малочисленным и измотанным в предыдущих боях войскам Брянского фронта. Несмотря на мощные рассекающие удары немецкой армии, наши соединения удержали свои рубежи, но враг прорвался в тыл и вышел на фланги. Угроза полного окружения войск фронта становилась зловещей реальностью.

Командующий фронтом А. И. Еременко прекрасно понимал — если не разорвать кольцо и не вывести уцелевшие части на новые рубежи, путь вермахту к столице будет открыт. Ситуация еще сильнее обострилась после того, как мотопехота врага нанесла удар по командному пункту фронта. Генерал-полковник с автоматом, вместе с бойцами, отбивал атаки врага у своего КП. Управление войсками было восстановлено.