Он всегда был изобретателем. В течение одного лета он сконструировал устройство, которое измеряло концентрацию паров нафталина, используя ультрафиолетовое излучение. Позже он усовершенствовал схемы для распределения напряжения. Затем он разработал приборы, которые измеряют допустимое напряжение усталости в металлах. В течение Второй мировой войны он сконструировал устройство для отыскания вражеских магнитных морских мин. Устройство записывало малейшие изменения в магнитном поле. Он работал над проблемами радаров, над устройством синхронизации измеряемых радарами целей. Летом 1941 года он изучал в школе Мура электронику и подружился с одним из двадцати студентов — Джоном Маучли. Эккерту было двадцать два, он был моложе Маучли на двенадцать лет, но они этому не придавали никакого значения. В то время как другие думали, что планы Маучли нереалистичны, Эккерт, напротив, был убежден, что создание электронного компьютера на базе вакуумных ламп — вполне решаемая задача.
Как уже отмечалось, в июне 1941 года Маучли посетил Джона Атанасова. В сентябре он написал Атанасову, что у него есть концепции, которые "ничем не похожи на вашу машину" и что он "хочет провести исследования различных идей с надеждой получения очень быстрых результатов и не слишком дорогостоящих". Он спросил разрешения у Атанасова о включении некоторых особенностей его компьютера в свой. По просьбе своей второй жены Кэтлин Маучли, он просто хотел подключить Атанасова к совместной работе над новым компьютером. Однако ответ Атанасова был отрицательным.
В ноябре 1942 года союзники высадились в Северную Африку, а т. к. различие между севером Африки и Мэрилендом было значительно, то таблицы огня были неверны. Поэтому артиллерийский департамент армии США получил заказ на новые баллистические таблицы, которые требовали вычисления сотен траекторий: для каждой траектории по шесть таблиц в день. Ученые Абердина, специалисты в области баллистических исследований, работали совместно со школой Мура над составлением таблиц. Дифференциальный анализатор, их самая лучшая машина в то время, не был достаточно точен, но только один Эккерт понимал ее бесперспективность. Маучли ждал момента, чтобы предложить школе Мура сконструировать электронный высокоскоростной компьютер на базе вакуумных ламп.
Школа Мура отнеслась безразлично к его идее, но Эккерт был на его стороне. Для Маучли и Эккерта наступило тяжелое время, т. к. было необходимо убедить других вкладывать деньги в электронику, особенно в электронные лампы. Оппоненты говорили, что лампы быстро выйдут из строя. Знаменитый Энрико Ферми, статистик и физик, информировал Джона фон Неймана, что с таким количеством ламп ENIAC проработает только пять минут. Но Маучли и Эккерт не были обеспокоены этим. Они знали, что компьютер будет в тысячу раз быстрее, чем любое другое устройство, и если он проработает только пять минут в час, это будет в сотню раз быстрее, чем любая другая машина.
В августе 1942 года Маучли составил проект "Использование быстродействующих устройств на электронных лампах для вычислений", в котором убедительно показал, что использование электронных схем значительно увеличит быстродействие вычислений. Машина, которую он задумал, выполняла тысячу умножений в секунду, вычисляла траектории за одну-две минуты, что в пятнадцать — тридцать раз быстрее, чем анализатор. Но реальное появление ENIAC произошло в сентябре, когда Абердин установил связь с университетом через своего посредника, лейтенанта Германа Голдстайна. В марте 1943 года Голдстайн попросил Маучли высказать свои идеи относительно электронных вычислений. Когда Голдстайн предложил, чтобы Маучли записал все свои идеи на бумаге, то он ответил, что это уже сделано. Но, к большому огорчению Маучли, доктор Джон Брайнерд, администратор школы Мура, руководитель проекта ENIAC, сообщил им о пропаже записки. Благодаря секретарше Маучли Дороти Шисла удалось восстановить записку из ее стенографических отчетов.
Некоторые члены правительства не одобряли этих разработок, т. к. думали, что компьютер технически невыполним при существующих технологиях. Но все-таки проект был одобрен 9 апреля 1943 года, в день рождения Эккерта, когда ему исполнялось 24 года. Артиллерийский департамент выделил 400 тыс. долларов для засекреченной разработки электронного универсального компьютера, самого быстрого, названного электронным числовым интегратором (ENIAC). Сначала ему было дано название ENI, но впоследствии он был переименован в ENIAC. План разработки ENIAC был засекречен и в школе Мура упоминался под кодовым названием '"Проект РХ".
Самое большое электронное оборудование, известное в то время, электронное радарное устройство, содержало около 200 электронных ламп, в то время как в ENIAC предусматривалось приблизительно 17 000 ламп.
Пятьдесят человек непрерывно работали над проектом за исключением Маучли, который еще и учился. Место для установки было выбрано прозаически, это была перестроенная аудитория в школе Мура.
ENIAC не использовал двоичную систему, упрощая работу операторов, читающих результаты сразу же, без преобразования из двоичных кодов. Самое длинное число, обрабатываемое ENIAC, содержало двадцать цифр. В главном программном устройстве была заложена информация для всех команд и переходов. Программа вычислений не сохранялась в памяти вместе с данными и не могла быть изменена.
Немногие могли забыть привычки работы Эккерта и Маучли. Эккерт любил работать вне кабинета в присутствии кого-нибудь, причем не имело значения, был ли это техник или сторож. Он был человеком движения и редко сидел на стуле, а чаше присаживался на край стола или ходил взад-вперед. Маучли был большой труженик, который мог иногда оставаться на работе несколько дней без перерыва на сон.
Мысли Маучли и Эккерта были заняты только ENIAC, пока в конце апреля 1944 года они не почувствовали себя на пороге успеха. Два сумматора обрабатывали данные взаимодействия, а также последующую информацию. Затем Маучли и Эккерт сформировали остальные восемнадцать сумматоров. Но это уже было двадцатью месяцами позже, прежде чем весь ENIAC впервые начал работать.
Уже в декабре 1943 года Маучли и Эккерт стали думать относительно проектирования улучшенного ENIAC, который обеспечивал бы хранение в памяти не только данных, но и команд. Их доклад о достигнутых результатах, написанный в том же месяце, включал и предложение о другом компьютере. Новая идея обрела конкретную форму, когда в конце 1944 года Баллистическая исследовательская лаборатория согласилась на разработку EDVAC (Electronic Discrete Variceble Automatic Computer). Для обеспечения секретности этот проект назвали "Проект РУ.
Проект EDVAC оказал революционное влияние на весь ход дальнейшего развития компьютерной техники. В январе 1944 года Джон Эккерт впервые выдвинул идею хранимой в памяти программы. С позиций сегодняшнего дня принцип хранимой программы считается наиболее важной идеей компьютерной архитектуры и, как утверждают некоторые ученые, единственной вызвавшей вторую промышленную революцию XX века.
Эта идея состоит в том, что, во-первых, программа вычислений вводится в компьютер и хранится в той же памяти, что и исходные числа, а во-вторых, команды, составляющие программу, представляются в виде числового кода, по форме не отличаются от чисел и с ними можно производить те же операции, что и с числами.
Устройства памяти в компьютере EDVAC Эккертом впервые были выполнены на ртутных линиях задержки.
Осенью 1944 года, когда Маучли и Эккерт работали над новым компьютером, военный представитель проекта Герман Голдстайн пригласил в качестве консультанта Джона фон Неймана, блестящего математика, участвовавшего в то время в секретном Манхэттенском проекте по созданию атомной бомбы. Нейман, познакомившись с работой группы Маучли и Эккерта над проектом EDVAC, прекрасно понял, что представляет собой этот компьютер для научных исследований. В июне 1945 года он подготовил отчет "Предварительный доклад о машине EDVAC", в котором дал описание основных элементов компьютера и логики его работы.