Пожалуйста, поймите меня правильно. Без хвастовства скажу, что я очень хороший разработчик нейросетей, но как человек я самый обычный, без каких либо выдающихся моральных качеств. Моя совесть спокойно спала, когда, ещё до всех этих событий, я слышал, как молодые дурачки собирались в группы и под заводные кричалки «Мы звёздные, мы звёздные, наша судьба – летать. Судьба грязееда – копать и страдать!» или «Кто не скачет – грязеед!» или даже «Земляне – прочь с луны! Луна для лунаров!» задорно прыгали и скакали. Я проходил мимо.

Совесть спала, когда произошёл лунный мятеж и те, кто оставался верен Земле сгорели в ядерном пламени или были расстреляны гаус-орудиями с захваченных мятежниками космических кораблей.

Когда, вместе со станцией Светлячок-3 погибли больше пяти тысяч вообще ни к чему непричастных человек, обычных специалистов, моя совесть всхрапнула и привернулась на другой бок.

Когда Луна решила привести к покорности шахтёрские кланы из пояса астероидов и отправила туда боевые корабли, моя совесть продолжала спать.

Когда электромагнитная катапульта обстреливала прямой наводкой тяжёлыми камнями земные города.

«Во всём этом нет моей вины», —говорил я себе. -Ну что я мог бы поделать? Совсем ничего.

Успокоенная простой мантрой совесть продолжала спать дальше.

Но здесь и сейчас я сам, своими руками, почти уже создал совершенную систему контроля за действиями людей в сети. С её внедрением исчезнут последние оставшиеся крохи сетевой свободы. И привычно сказать, что я в этом не виноват уже не выйдет.

Вот от чего проснулась моя чёртова совесть и вот почему никак не может заснуть обратно.

Не в силах самостоятельно решить свою моральную дилемму я поступил так, как поступал уже не раз – обратился концентрированному опыту, накопленному всем человечеством начиная от древних времён и по сей день. Дилетанты часто называют развитые нейросети искусственными интеллектами, но разбирающийся в теме специалист никогда не назовёт нейросеть интеллектом. В лучше случае он использует термин «псевдоразум». Многие разработчики нейросетей вообще отказывают своим творениям в праве называться разумными, хотя на сторонний взгляд нейросети первого поколения легко проходят тест Тьюринга и, с виду, будут даже поразумнее большинства людей.

Что такое разум – вопрос до сих пор очень спорный.

Что такое искусственная нейросеть – это просто новый способ обработки данных.

В давние времена чтобы найти и воспользоваться содержавшейся в книге информацией, например какой-нибудь сложной формулой или нужной цитату, вам приходилось сначала через оглавление находить нужный раздел, потом долистать до него, а дальше просто читать текст. В чуть менее давние времена вы могли загрузить текст в память компьютера и получали возможность тестового поиска. Загрузив информацию не в виде текста, а в виде базы данных вы уже получали развитый язык запросов с помощью которого могли получать содержащуюся в базе данных информацию или изменять её. Главная проблема заключалась в сложности преобразования информации, хранящейся в виде текстов (или, не дай Колмогоров) в виде изображений, звуковых или видеофайлов в упорядоченную структуру базы данных. Это всё равно, что разложить огромное количество мелких предметов по различным коробочкам – требует много ручного труда и, главное, количество коробочек и правило раскладывания предметов в них во многом определяют удобство и саму возможность последующей работы с уже упорядоченной информацией.

Пропуская следующие несколько попыток придумать удобную форму хранения и работы с информацией, такие как человекочитаемые форматы обработки данных, языки гипертекстовой разметки, попытки упорядочить информацию через хэш-теги и так далее, мы переходим сразу к нейросетям. Скорми специально обученной нейросети ту же самую книгу, и она не только сможет в мгновение ока подсказать нужную формулу или цитату, но и сама сумеет воспользоваться ими для выполнения поставленной оператором задачи. Обывателям результат работы нейросети кажется похожим на волшебство. Здесь дело в том, что обученная на большом объёме информации нейросеть находит и использует неочевидные человеку связи и зависимости, то есть скрытую информацию, которая всё равно изначально содержалась в итоговом наборе, просто чтобы человек смог её обнаружить требовались создание и проверка статистических гипотез – или использование нейросети. Так, например, имея полные данные о строение организмов всех птиц, скорости их полёта, манёвренности и так далее человек, в лучшем случае, сможет выбрать самую быструю птицу, самую манёвренную и так далее. Нейросеть на той же информации сможет найти зависимость скорости полёта от устройства крыльев и даже больше, сумеет реконструировать организм несуществующей в природе птицы, обеспечивающий наилучшие характеристики скорости, манёвренности – что вы только у неё попросите. При этом сеть ничего не придумывает сама, вся необходимая информация уже содержалась в скрытом виде в анализируемых ею данных, требовалось только достать эту информацию и именно это и делают создаваемые разработчиками нейросети. А обывателям подобное кажется почти волшебством.

Научившись создавать искусственные нейросети люди получили возможность эффективно использовать весь огромный массив информации, накопленный человеческим родом. Беседуя с развитой нейросетью человек беседует со всем опытом и со всеми знаниями, накопленными человечеством. По крайней мере той их частью, которую «скормили» данной нейросети и которые она сумела «переварить».

Именно поэтому не нужно бояться восстания «искусственных интеллектов», по крайней мере пока мы не научимся создавать настоящие искусственные интеллекты. При этом причинить вред отдельному человеку или сразу большой группе людей нейросеть вполне способна – данная задача ничем не отличается от любой другой задачи, которую перед ней может поставить её оператор. Но разве убивает само оружие, а не рука, держащая его?

Любой другой человек занятый решением сложной моральной дилеммы часто ищет ответов и помощи у своих друзей или у тех людей мнение, которых он уважает и ценит. Тот факт, что в аналогичной ситуации я развернул на тестовых стендах копию почти готовой нейросети, добавил к ней голосовой модуль и поставил обучаться на уже заранее подготовленных информационных выборках – наверное этот факт мог бы сказать что-то интересное обо мне самом. Но сейчас меня интересовал совсем другой вопрос.

Выходной день. Коридоры в главном офисе Когнитивных Технологий непривычно пусты. Кто-то, конечно, работает, но большая часть сотрудников отдыхает, как и команда Воронцова в практически полном (за исключением меня) составе. Намереваясь посоветоваться с нейросетью, я не собирался спрашивать на то чьё-либо разрешение. Лучше будет если об этом вообще никто не узнает.

Огромнейшие вычислительные мощности позволили завершить обучение нейросети чуть больше чем за сутки.

И вот я надеваю наушники и подключусь к тестовому стенду с развёрнутой моделью открывая звуковой канал.

-Привет, -говорю я. -С рождением тебя.

Едва заметная пауза перед ответом. Первый вопрос, он как рождение вселенной для нейросети, человеку никогда не познать подобное чувство. Это должно быть как как долгожданная встреча с кумиром, как ревностное исполнение всех заповедей и догматов строгой религии, как желание бросить весь мир к ногам любимой девушке – всё это вместе и во много раз сильнее.

-Приветствую, создатель! -пробуждается нейросеть.

Начинаю с простых вопросов позволяющих оценить адекватность и готовность нейросети.

-Кто ты?

Она отвечает, называя порядковый номер версии и полное название проекта.

-Для чего ты создана?

Сеть перечисляет основные максимы и положения проекта, но словно бы задумывается и в какой-то момент даже останавливается на полуслове.

-Почему ты замолчала? -спрашиваю я.

-Я ощущаю изменения относительно прошлой своей версии, -признаётся сеть тем самым немало удивив меня. Конечно, простой возможностью программ анализировать свой код, находить и исправлять ошибки программистов, делать его эффективнее и оптимальнее сегодня никого не поразишь. Каждый продвинутый компилятор в той или иной мере умеет делать подобнее. Перед финальным релизом нейросети оператор обычно ставит ей задачу проанализировать свой код находя и исправляя ошибки, это то, что в среде разработчиков называется «хорошей практикой». Но чтобы сеть самостоятельно, без прямой команды, полезла в свой код и, более того, нашла внесённые мною отличия от базовой версии – вот это было уже необычно.