«И вот в самом начале 1939 года мне вдруг предложили перейти на работу в Наркомат путей сообщений СССР, — вспоминал Ковалев. — Я попросил оставить меня в прежней должности, поскольку только-только вошел в курс дел такого сложного и интересного хозяйственного организма, как Западная железная дорога. Нарком путей сообщения Каганович вроде бы внял моим доводам. Однако в апреле того же года он позвонил из Москвы и спросил, кто мог бы меня заменить, если мне придется отлучиться на некоторое время. Я назвал моего заместителя Виктора Антоновича Гарныка.
— Я его знаю, — сказал Каганович. — Он был начальником депо в Туле. Толковый товарищ. Приезжайте вместе в Москву.
Мы прибыли, и нарком без лишних слов вручил каждому из нас копии решения Политбюро ЦК ВКП(б) о наших новых назначениях. Меня назначили членом Коллегии и начальником Военного отдела НКПС, а Гарныка — начальником Западной железной дороги. Л. М. Каганович поздравил нас и дал указание немедленно приступить к работе. Я четыре года не был в отпуске, но понял, что заикаться об этом нельзя — не время. Каганович и сам ежегодно не уходил в отпуск, и никого из руководящих деятелей Наркомата на отдых не отпускал. Такова была традиция. И лично для меня она затянулась на 14 лет».
На военный отдел наркомата возлагалась подготовка железнодорожного транспорта к возможной войне. По данным, которые Ковалеву собрали в военном отделе НКПС, приграничные железнодорожные станции насчитывали около 1 600 выгрузочных путей с высокими платформами, что позволяло пропускать через выгрузочные районы до 860 пар поездов в сутки. Это, в свою очередь, обеспечивало развертывание первого стратегического эшелона войск Красной армии за 20–25 суток.
Военный отдел НКПС работал в тесном контакте с сотрудниками Генерального штаба — начальником Управления военных сообщений генералом Трубецким, толковым специалистом из старых военных, и начальником оперативного отдела полковником Василевским. Последний, будущий маршал Советского Союза, отвечал в Генштабе за разработку Западного театра военных действий и за развертывание войск на этом театре. Работать с ним, вспоминал Ковалев, было легко, «человек он был скромный, интеллигентный, даже несколько застенчивый; обладал большим багажом знаний, но не давил ими на собеседника».
В мае 1941 года постановлением СНК СССР Ковалев был назначен заместителем наркома госконтроля СССР по железнодорожному транспорту. С началом войны был переведен в РККА и в июле 1941-го стал начальником Управления военных сообщений Красной армии. С 1943 года он становится первым заместителем начальника, а в 1944-м — начальником Центрального управления военных сообщений.
Сослуживцы Ковалева отмечали впоследствии его непреклонность во всем, что касается дела. Когда в 1942 году, в тяжелые месяцы отступления, в Государственном комитете обороны стали раздумывать о расформировании железнодорожных войск и переводе их в стрелковые части, Ковалев назвал эту идею недальновидной. Если через какое-то время, сказал он, советские войска перейдут в наступление, то некому будет восстанавливать железные дороги, а без них наступательные операции невозможны. К его мнению прислушались.
Был и другой аналогичный случай. В ноябре 1944 года, когда Красная армия перенесла боевые действия за пределы СССР, Л. М. Каганович, который тогда еще был наркомом путей сообщения, провел в ГКО постановление о восстановлении всех зарубежных магистралей только на западноевропейскую колею (1 435 мм). Хотя постановление было уже подписано председателем ГКО, Ковалев отважился выступить против. Он стал доказывать, что если произойдет перешивка исключительно на западноевропейскую колею, то будет невозможно обеспечить возросший объем перевозок. Предложил в полосе каждого фронта хотя бы одно направление перешивать на союзную колею (1 524 мм). И с ним согласились. Прежнее решение ГКО было Сталиным отменено, что случалось крайне редко.
20 декабря 1944 года Ковалев сменил Кагановича на посту наркома путей сообщения СССР.
А потом пришла Победа. После нее Ковалев еще некоторое время, как бы по инерции, оставался главным советским железнодорожником. Но срок действия «охранной грамоты», выданной ему военным временем, уже истек. В апреле 1948 года Ковалев был обвинен в «ошибках при расходовании государственных средств, а также в деле подбора кадров», освобожден с поста наркома и направлен в Китай в качестве уполномоченного Совета министров СССР и советника по проблемам транспорта при правительстве Народного Китая. Сам же Ковалев считал, что был послан туда как «личный представитель Сталина при Мао Цзэдуне», а также в качестве «главного советника в Политбюро КПК и руководителя советских специалистов в Китае».
Бывали случаи, когда во время войны нарком попадал под каток репрессивной машины, но проходил месяц-другой, и арестованный выходил на свободу — настолько он был нужен. Так произошло с главой Наркомата вооружения СССР Борисом Львовичем Ванниковым. Вот как ситуацию с арестом Ванникова описывает Шахурин: «Высоко ценя Бориса Львовича как работника, Сталин поначалу решил не арестовывать его, а поручил Маленкову и Берии встретиться с ним и предложить рассказать обо всем чистосердечно. В этом случае он будет прощен и оставлен на своем посту. Состоялись две такие встречи. И конечно, Ванников ничего не мог сказать о своих занятиях “шпионажем”: встречался с иностранными представителями, но по поручению правительства и в интересах страны. Сталин бы не поверил».
За что арестовали и чуть было не сгноили в лагерях наркома вооружения СССР, до сих пор не известно. Есть только версии. Например, такая, вполне анекдотическая. Будто бы в первые месяцы войны на заседании в Наркомате госконтроля Ванников слишком громко, на весь кабинет, шепнул Ковалеву (тогда замнаркома госконтроля СССР), что его, Ванникова, Л. 3. Мехлис (в ту пору замнаркома обороны СССР) не тронет, поскольку «ворон ворону, а еврей еврею глаз не выклюет». «Мехлис сидел на председательском месте, жевал сушеный чернослив (недавно бросил курить) и после прочтения каждого акта бросал острые реплики в адрес Ванникова, — так спустя годы описывал эту сцену Ковалев. — А Борис и говорит мне тихо: “Иван, имей в виду: еврей еврею, как и ворон ворону, глаз не выклюет”. Сказал буквально на ухо, но Мехлис услышал. Прервал чтение очередного акта, выплюнул косточку чернослива, позвонил куда-то. Слышим:
— Товарищ Сталин, мы тут полтора часа втолковываем Ванникову, что его наркомат отстает в производстве артиллерийских боеприпасов тяжелого калибра, а он нас вышучивает.
Выслушав ответ Сталина, Мехлис сказал нам: “Пойдемте в машину!”
Пошли вчетвером: Мехлис, его первый заместитель Попов, Ванников и я. Автомашина уже ждала у подъезда, и пять минут спустя мы вышли на Новой площади, у здания Центрального Комитета партии. Прошли в кабинет Сталина. Он сказал: “Садитесь!” Сели, молчим, он тоже. Раскурил трубку, обернулся к Ванникову: “Ну-ка расскажите!” Ванников сказал, что-де спасибо Госконтролю, что обнаружил неполадки. Наркомат примет немедленные меры… Сталин прервал его:
— Нет, вы не о том. Вы скажите, как там шутили.
Ванников не стал отказываться. Он повторил Сталину свою шутку насчет еврея и ворона. Сталин спокойно прошелся и спокойно сказал:
— Сейчас, когда советскому народу угрожает величайшая военная опасность, за подобные высказывания некоторые могли бы оказаться в тюрьме. Можете идти, мы с товарищами займемся другими делами.
Ванников вышел, а нам Сталин поручил проверить работу авиационных заводов, и четверть часа спустя мы тоже покинули здание ЦК партии».
Примерно через полмесяца Госконтроль вернулся к вопросу об артиллерийских снарядах тяжелого калибра. Создали комиссию, быстро проверили. Доложили Сталину. Доклад Сталина не удовлетворил. Он назвал его поверхностным. Верховного главнокомандующего волновали сильные перебои с поставками боеприпасов. Он тут же вызвал своего секретаря Поскребышева, приказал соединить по телефону с Ванниковым, который как нарком вооружения мог бы что-то прояснить, но… он куда-то запропастился. Прошло минут десять. Небывалая вещь: звонит Сталин, а нарком не на связи. Наконец Поскребышев доложил: «Ванников на проводе». Сталин стал говорить с Ванниковым. Рассматривал таблицу выпуска боеприпасов, что-то спрашивал, что-то просил уточнить. Присутствующие в кабинете члены ГКО видели, что ответы наркома не удовлетворяли Сталина. Он сказал:
