Такие воздействия были возможны и эффективны только при условии, если операторы давали согласие на внедрение в клетки их мозга опсина ChRmine-2²⁰ и наночастиц, а также воздействие на них во время экспериментов определёнными психоактивными веществами. За существенную доплату, стоит отметить.

В лаборатории Алексей застал бурную дискуссию между коллегами – Петром и Сергеем.

– Что за шум, а драки нет? – пошутил Алексей, занимая рабочее место и запуская протокол идентификации пользователя (лицо, папиллярные узоры ладоней, глаза, голос).

– Да вот Серёга считает, что именно большие языковые модели имеют наибольшие шансы стать реципиентами сознания. Мол, люди мыслят словами, словами формулируют мысли при общении друг с другом, а значит основу сознания составляют слова и модели их использования. Ну и, следовательно, когда-либо у очень-очень большой языковой модели произойдёт переход количества в качество – и она, подобно Большой Массачусетской машине у Стругацких²¹, "начнёт себя вести", – сказал Пётр.

– А ты сам как думаешь? – поинтересовался Алексей, запуская на "признавшем" его компьютере программу диагностики и тестирования.

– В словесных формулировках слишком много вероятностей ошибок и неопределённостей для создания опорных точек для сознания. Ну, например, если я тебе скажу, что боксер победил на чемпионате мира, но не получил за титул ни копейки, а все деньги достались тренеру, какая у тебя будет первая реакция?

– Я удивлюсь, – улыбнулся Алексей.

– А между тем всё выглядит совсем иначе, если знать, что боксер – собака, а не человек. И поэтому при работе с текстами и речью необходимо направлять усилия не на выполнение вычислительных действий, а на определение исходных дефиниций всех понятий и контекст. А дальше смотреть, какая из этих значений возникает смысловая конструкция. Образы в этом смысле гораздо конкретнее.

– Ага, как же… ,– усмехнулся Сергей. – А то мало оптических иллюзий!

– Это для нас они иллюзии, а для компьютерного зрения их нет, – парировал Пётр.

– Ну а тогда то, что получится при обучении, не будет эквивалентом человеческого сознания, раз будет исходно лишено свойственных ему свойств, – ответил Сергей. И спросил Алексея:

– А ты как считаешь?

– Я считаю, что думать надо не о том, КАК ВОЗНИКНЕТ искусственный разум, а о том, КАК МЫ СМОЖЕМ ЕГО КОНТРОЛИРОВАТЬ. Вот ты упомянул Стругацких, а у них есть на эту тему хорошее высказывание, которое я даже наизусть помню. – "А если мы переоцениваем одни последствия и недооцениваем другие? Если, наконец, совершенно ясно, что мы просто не в состоянии держать под контролем даже самые очевидные и неприятные последствия? Если для этого требуются совершенно невообразимые энергетические ресурсы и моральное напряжение (как это, кстати, и случилось с Массачусетсской машиной, когда на глазах у ошеломленных исследователей зародилась и стала набирать силу новая, нечеловеческая цивилизация Земли)?"²²

– Ну-у-у, брат, тебя со Стругацкими послушать, так надо вообще все исследования по ИИ если и не закрыть, то взять под ещё более жёсткий контроль, чем сейчас со стороны "иайкавцев"²³, – сказал Сергей.

– Ужесточить контроль бы стоило.

Сергей уже собирался ответить, но Пётр прервал начинающийся новый спор:

– Всё, брэк. Давайте вернёмся к предыдущей теме. А политикой пусть занимаются другие. Итак, Серёга, верно ли я понял, что ты считаешь, будто использование аналитических методов, примененных к речи конкретного человека, может способствовать созданию «лингвопортрета» личности, способного инициировать возникновение у языковой модели сознания?

– Именно. Ведь в мозге любого человека идет непрерывный внутренний диалог на родном языке. Да даже образы, получаемые человеком через зрение, и те трансформируются в словесное описание. И если мы программным путем заставим языковую модель генерировать вопросы к самой себе и отвечать на них, это будет существенным шагом к осознанию собственной «самости» такой модели²⁴, – подтвердил Сергей.

– Не, мужики, лично я считаю, что у нас мышление одним только вербальным уровнем не ограничивается, – сказал Пётр. – А как же все техники работы в "изменёнке"²⁵, "воля над хаосом"²⁶, паранормальные и многозначные логики, включая "воображаемую" логику Васильева²⁷? Разве это не доказывает, что возможно мышление не только без слов, а даже и без образов, чистыми смыслами, идеями? Да разве каждый из нас, когда подключался к "двум К"²⁸ под воздействием психотропов²⁹ и комбинированной транскринальной магнитной и оптогенетической стимуляции, не ощущал, что можно мыслить за пределами слов?

– Ну что ты кипятишься? – примирительно отозвался Алексей. – С точки зрения используемых нами технологий сей вопрос важен лишь теоретически. Ибо нейроинтерфейсы 5.0³⁰ позволяют копирования семантические поля мозга без определения, являются ли они вербализуемыми, или нет. Если правы создатели психонетики и тибетские мистики, и у нас есть некие мыслительные процессы за пределами разума, то наша тряхомудия³¹ и их позволит отыскать рано или поздно.

– Если сии процессы происходят только в пределах нашего тела. А если правы те, кто утверждает, что часть процессов мышления происходит вне мозга, тогда как³²? Или окажется, что верна Orch OR (Orchestrated Objective Reduction) теория сознания³³? – возразил Сергей. – Тогда мы полного коннектома не получим даже на нашем оборудовании.

– Это да, – согласился Пётр.

– И это ещё полбеды, – "подлил масла в огонь" Алексей. – Ведь само понятие ИИ искусственного интеллекта до сих пор очень по-разному понимается не только представителями разных областей знаний, но даже внутри нашего профессионального сообщества³⁴. Между тем без договоренности об определениях дискуссия о том, сможет ли ИИ обрести сознание и оставаться управляемым людьми, бессмысленна. Мы должны понять, что такое интеллектуальный процесс с точки зрения не только технического, а и экзистенциального характера. И главный вопрос – а возможны ли вообще смыслы в искусственных интеллектуальных системах? Ибо если это невозможно в принципе, то какие бы прибамбасы мы не придумали, сознание у ИИ не появится.

– Предлагаю посмотреть на вопрос с иной стороны, – сказал Пётр. – А почему мы так интересуемся, может ли появиться сознание у ИИ?

– Ну это очевидно – прямо по Стругацким, да и не им одним, – сказал Сергей. – Если машина станет не объектом, а субъектом, да ещё весьма могущественным, то, как говориться, "здравствуй, Матрица". Ну или "Терминатор" – кому что страшнее.

– Думаю, не только поэтому, – откликнулся Алексей., открыв на завершившем диагностику компе последнюю версию своей проги.

– А почему ещё? – с интересом спросил Сергей.

– А потому, мон шер, что многие рассчитывают – если у ИИ появится сознание, то значит подобная система в принципе способна будет принять и человеческое сознание! То есть можно будет оцифровать наш ментальный и эмоциональный мир и тем самым достичь бессмертия!

– Да ты, батенька, трансгуманист! – усмехнулся Сергей.

– Я бы с тобой, Алекс, согласился, если бы не одна "ма-а-а-ленькая" проблемка, – с усмешкой сказа Пётр. – Ведь если даже в ИИ и возникнет сознание, то не факт, что его форма и семантика будут такими, что на его субстрат, физическую, так сказать, основу, можно будет "пересадить" человеческое сознание.

Ты же не хуже меня знаешь, что анализ матчей AlphaGo, оказавшихся разгромными для лучших живых игроков поразил экспертов: люди таких ходов не делают и такие стратегии им в голову никогда не приходили. Ну а уж про то, что и Pluribus создал несколько инновационных приемов, которых никто из лучших игроков в покер в мире ранее не использовал, я вообще молчу³⁵…