Решение обобщенной пятой проблемы Гилберта, считавшейся одной из труднейших в современной алгебре, выдвинуло В. М. Глушкова в число ведущих отечественных и зарубежных алгебраистов. Казалось бы, творческая судьба определилась. Но жизнь распорядилась иначе.
По приглашению академика Б. В. Гнеденко с августа 1956 года Глушков начал работать в Институте математики АН УССР заведующим лабораторией вычислительной техники и математики. С этого момента вся его деятельность неразрывно связана с Академией наук Украины. Хотя лаборатория, которую возглавил В. М. Глушков, была малочисленна, в ней еще до его прихода под руководством С. А. Лебедева окончились успехом разработки Малой электронной счетной машины (МЭСМ) — первой отечественной вычислительной машины — и были начаты разработки машин СЭСМ и "Киев". В декабре 1957 года лаборатория была преобразована в Вычислительный центр Академии наук УССР, директором которого стал В. М. Глушков. Им была представлена программа научных исследований: "О некоторых задачах вычислительной техники и связанных с ними задачах математики".
Именно в этот период Виктор Михайлович тесно связал свои творческие интересы с разработкой теоретических основ кибернетики и вычислительной техники. С 1957 года он вел исследования в области теории автоматов и проектирования вычислительных машин, одним из основных результатов которых стало создание общей теории цифровых автоматов, которая имела первостепенное значение для синтеза вычислительных устройств.
В 1962 году вышла его монография "Синтез цифровых автоматов". Основным результатом этой работы было создание методики синтеза цифровых автоматов, разработка формального математического аппарата, который дал возможность разработчикам эффективно применять абстрактно-автоматные и другие алгебраические методы для решения задач инженерного проектирования вычислительных машин. Книга "Синтез цифровых автоматов", так же как и написанная в 1964 году монография "Введение в кибернетику", была переиздана в США и многих других странах.
1961 год для молодого коллектива, возглавляемого В. М. Глушковым, явился знаменательным годом. В этом году была выпущена УМШН (Управляющая машина широкого назначения), получившая в дальнейшем название "Днепр" и предназначенная для управления сложенными технологическими процессами.
УМШН "Днепр"
Вспоминает В. М. Глушков: "Разработка машины была поручена Малиновскому, он был главным конструктором, а я — научным руководителем. Работа была выполнена в рекордно короткий срок: от момента высказывания идеи на конференции в июле 1958 года до момента запуска машины в серию в июле 1961 года и установки ее на раде производств прошло всего три года. Эта первая универсальная полупроводниковая машина побила и другой рекорд — рекорд промышленного долголетия, поскольку выпускалась десять лет (1961–1971)". Необходимо заметить, что американцы начали свои работы над аналогичной машиной раньше, но запустили ее в производство тем же летом 1961 года.
Борис Николаевич Малиновский
В 1962 году Вычислительный центр был преобразован в Институт кибернетики АН УССР. Директором института (он оставался им до конца жизни) и заведующим отделом теории цифровых автоматов стал В. М. Глушков. В 1964 году он избирается действительным членом Академии наук СССР.
Вычислительная машина МИР-1
В 1966 году в Киевском университете был открыт факультет кибернетики, где кафедрой теоретической кибернетики заведовал В. М. Глушков. А созданный Институт кибернетики стал быстро расти. В 60-е годы под руководством В. М. Глушкова были созданы вычислительные машины "Проминь" и МИР-1, МИР-2, МИР-3, внесшие значительный вклад в отечественное компьютеростроение. В машинах "Проминь" и МИР-1 (Машина для Инженерных Расчетов — 1) впервые было применено так называемое ступенчатое микропрограммное управление. В 1967 году на выставке в Лондоне, где демонстрировалась МИР-1, она была приобретена фирмой IBM. "Как выяснилось позже, американцы купили машину не столько для того, чтобы считать на ней, сколько для того, чтобы доказать своим конкурентам, запатентовавшим в 1963 году принцип ступенчатого микропрограммирования, что русские давно об этом принципе знали и реализовали в серийно выпускаемой машине. В действительности, мы применили его раньше — в ЭВМ "Проминь", — вспоминает В. М. Глушков.
В 1969 году была создана машина МИР-2, а затем — МИР-3. В МИР-2 был реализован диалоговый режим работы, использующий дисплей со световым пером (некоторые называют МИР-2 первым персональным компьютером).
Вычислительная машина МИР-2
В 1968 году разработан технический проект вычислительной машины "Украина", который предвосхитил многие идеи американских компьютеров 70-х годов, а через два года по материалам этой разработки издана монография "Вычислительная машина с развитыми системами интерпретаций" (авторы — В. М. Глушков, А. А. Барабанов, С. Д. Калиниченко, С. Д. Михновский, 3. Л. Рабинович). К сожалению, этой проект остался неосуществленным.
Огромную роль Виктор Михайлович сыграл в формировании идей создания автоматизированных систем управления. Вместе со своими учениками он выполнил разработку специальных технических средств для управления рядом технологических процессов в металлургической, химической, судостроительной промышленностях и микроэлектронике. В 1967 году сдана в эксплуатацию и рекомендована к массовому применению первая в стране автоматизированная система управления (АСУ) предприятием с массовым характером производства "Львов". На этой системе были отработаны многие принципы, положенные в основу автоматизированных систем управления иных типов.
Необходимо сказать, что еще в начале 60-х годов В. М. Глушков выдвинул идею объединения АСУ различных звеньев и уровней в общегосударственную автоматизированную систему (ОГАС). По его инициативе и под его руководством комиссией Государственного комитета Совета Министров СССР по науке и технике был разработан предэскизный проект "Единой государственной сети вычислительных центров", который стал основой современных представлений об ОГАС. С этой задачей связаны его теоретические исследования в области макроэкономики.
В 1972 году была опубликована монография В. М. Глушкова "Введение в АСУ", в которой сформулированы основные принципы построения автоматизированных систем организационного управления, а в 1975 году — монография "Макроэкономические модели и принципы построения ОГАС", посвященная изложению основных концепций ОГАС. Приходится только сожалеть о том, что эти концепции не получили соответствующего материально-технического обеспечения. Очевидно, что главным препятствием на пути создания ОГАС было несовершенство механизма управления народным хозяйством в те годы, как утверждают некоторые ученые- экономисты.
Последние годы жизни Виктор Михайлович Глушков посвятил решению проблемы создания высокопроизводительных вычислительных систем с нетрадиционной, не-неймановской структурной организацией. В 1974 году, на Конгрессе IFIP, проходившем в Стокгольме, он говорил о проекте создания мультипрограммной вычислительной системы с рекурсивной организацией, идея которой была сформулирована им совместно с другими учеными (М. Б. Игнатьев, В. А. Мясников, В. А. Торгашев). Как писал он в одной из своих статей: "Рекурсивные машины должны строиться таким образом, чтобы их процессоры (микропроцессоры) отличались от неймановских по крайней мере в двух отношениях. Первое отличие состоит в том, чтобы память микропроцессоров имела значительно большее число видов доступа, по крайней мере, четыре вида доступа, а не один, — стеки, ассоциативная, обычная адресная память и буферы. Второе отличие процессора, используемого в рекурсивных машинах, заключается в том, что этот процессор должен обладать сменной микропрограммной памятью, с тем, чтобы настраиваться на выполнение разных операций. Это необходимо для настройки разных частей мультипроцессорной системы на выполнение различных операций".