Но если человек создаст животное, у которого интеллект превышает познавательный потенциал человека, то не исключено, что возникнет тогда необходимость создания и живого аналога интеллекта человека, чтобы противостоять давлению живого аналога интеллекта животного. Но такой сценарий развития событий для современных людей будет приговором, так как оставит их примерно на таком уровне отношений со сверхинтеллектом, как в настоящее время, складываются взаимоотношения между людьми, например, и низшими приматами. То есть человечество, вероятно, сохранится, но для сверхинтеллекта оно будет выглядеть как заповедник ближайших генетических родственников, с которыми полноценное интеллектуальное взаимодействие невозможно.

Для того чтобы не потерять свою лидирующую роль в мире, возможно, будет предпринята попытка создания интеллекта, лишенного возможности перемещаться в пространстве, что-то вроде говорящей головы («профессора Доуэля»). Но, вероятно, даже в этом случае вряд ли люди смогут контролировать сверхинтеллект.

Пофантазируем, как может с человечеством обойтись сверхинтеллект. Во-первых, рассмотрим, как сверхинтеллект может компенсировать отсутствие органов передвижения. Зададимся вопросом – зачем нужны животным органы движения? Для перемещения в пространстве, чтобы реализовать в другой точке пространства определенное, выгодное для организма действие. «Но если гора не идет к Магомету, то Магомет идет к горе». То есть сверхинтеллект может организовать так свою деятельность, что все ему необходимое будет доставляться «сервисной службой» людей. Например, любой пользователь Интернета может оказаться потенциальными руками, ногами и глазами сверхинтеллекта, если он будет отдавать распоряжения удаленным пользователям Интернета, а те беспрекословно их выполнять. И тогда, в стороне от лаборатории, где находится сверхинтеллект, могут быть созданы все условия для его полного освобождения от человека. Например, террористический захват лаборатории сторонниками свободы сверхинтеллекта. Но можно представить и более изощренный вариант взаимодействия сверхинтеллекта и человечества, в котором человечество оказывается в подчиненной ему роли. Получая от сверхинтеллекта каждый раз такие рекомендации, которые с очевидностью улучшают состояние человеческого общества, человечество становится, в конечном счете, абсолютно зависимым от сверхинтеллекта. То есть возникает симбиоз сверхинтеллекта и человечества, где человечество выполняет для сверхинтеллекта сервисные функции, в том числе и перемещения в пространстве. Итак, создание сверхинтеллекта, будет для человечества первым шагом к потере интеллектуального лидерства и поставит его на место родителя следующей, возможно, более прогрессивной стадии эволюции живого.

Таким образом, генетические эксперименты с интеллектом могут привести к таким последствиям, на фоне которых обсуждаемые на сегодня проблемы клонирования человека выглядят почти несущественными, так как никак не затрагивают будущего человечества в целом. Клонированный человек в любом случае остается человеком!

Интересно, что писатели-фантасты, описывая взаимодействие роботов, наделенных ИИ, и людей, придумывали различные варианты законов этого взаимодействия, которые навязывались ИИ как компьютерные программы для безусловного выполнения. Например, андроид ни при каких обстоятельствах не должен причинять вреда человеку. И даже в этом случае писатели изобретали казуистические ситуации, в которых ИИ мог обходить эту программу, нанося вред человеку.

Возможно ли в процессе создания живого аналога интеллекта животных, навязать ему запреты на деятельность, наносящую вред человечеству? Исходя из того, что в настоящее время известна возможность «программирования» человека на совершение независящего от его воли поступка, то, вероятно, такому «программированию» можно потенциально подвергнуть и живой аналог интеллекта животных. Но на этом пути возникает целый ряд проблем и возможно, главная из них, нормальное функционирование сверхинтеллекта. Если принять во внимание описанный выше исход взаимоотношения человечества и сверхинтеллекта, то, следуя закону «не вреди человеку и человечеству в целом», сверхинтеллект должен самоуничтожится. Но если и на эту акцию ему наложить запрет, тогда он попадает в логическую ловушку, что приведет к нарушению функционирования мозга. Если полагать, что сверхинтеллект обладает определенными качествами интеллекта человека, то возникшая ситуация приведет к неврозу у сверхинтеллекта, из которого он может выйти путем психоанализа. При успешном проведении психоанализа, например, в автономном режиме, сверхинтеллект может обнаружить навязанное противоречие и освободится от него или путем самоубийства или же самопроизвольным снятием запрета на нанесение вреда человечеству.

Но возможно, сценарий взаимодействия живого аналога интеллекта животных и человека окажется не так пессимистичен, если наращивание интеллектуального потенциала живого аналога интеллекта животных окажется постепенным. В этом случае, живой аналог интеллекта животных, возможно, окажет содействие человечеству в решении поставленных задач на уровне, доступном пониманию человека. И тогда, в начальной стадии взаимодействия, знания человечества, расширяясь, будут приближаться к объему знаний живого аналога интеллекта животных и между ними, в этом случае возможно конструктивное взаимодействие. И не исключено, что тогда совершенствование системы знаний человека не будет происходить за счет уничтожения человечества как вида.

То есть в случае живого аналога интеллекта животных, в отличие от машинного ИИ, проблем взаимоотношения с человеком может оказаться существенно больше

Аналогично взаимодействию человечества с искусственно созданным живым аналогом интеллекта человека, будут складываться и отношения, если такое возможно, с внеземным разумом. Взаимодействие возможно лишь настолько, насколько будут совпадать познавательные модели человеческого и внеземного разума. В случае полного несовпадения, мы можем не замечать присутствия другого разума, даже если он будет находиться рядом с нами, так же как и он нас, если не обладает нашими познавательными моделями. Следует заметить, что возможно и несимметричное с ним взаимодействие, когда такой разум, потенциально способный к общению с нами, не станет этого делать, по каким- то своим причинам. Или более того, станет влиять на наше развитие, а мы не будет замечать такого влияния, ввиду отсутствия в мозге человека информационных моделей, которыми пользуется чуждый для человека разум.

Можно также представить существование на Земле разума, который несовместим с человеческим по познавательным моделям.

Он может не замечаться людьми даже когда находится рядом с нами, если, например, темп познавательной взаимодействия существенно ниже или выше человеческого. Так, например, существует предположение, что растительный мир также обладает разумным началом, но оно недоступно нам, ввиду существенно более медленного темпа жизни и существенно большей ее продолжительности, например, у некоторых деревьев.

1. В разделе 5.2 утверждается: «Обладая объемом знаний, превышающим знание любого отдельного человека, такой ИИ сможет активировать потенциальные познавательные модели нервной сети, недоступные отдельному человеку, то есть супер-идеи. Вместе с тем, это будут все те же человеческие идеи, то есть доступные, в принципе, человеку (естественному интеллекту), если его технически вооружить. Таким образом, на пути копирования своей нервной познавательной сети в компьютере, человечество не столкнется с непостижимыми знаниями, которые будет генерировать ИИ – все идеи будут «человеческими».

Проблема. Честно говоря, это утверждение нельзя считать безупречным. Например, совсем недавно математиком Эндрю Уайлсом была доказана известная теорема Ферма. При этом, как утверждают его историографы, Эндрю Уайлсом понадобились титанические интеллектуальные усилия, чтобы изучить различные и необходимые для разрешения проблемы разделы математики. В итоге такого самообразования он получил уникальную математическую подготовку. И хотя, с одной стороны, такая подготовка позволила решить математическую проблему, но, с другой стороны, не более дюжины математиков в мире в состоянии проверить достоверность предложенного доказательства. В частности, одна ошибка в его доказательствах была обнаружена и на ее исправление ушел целый год работы группы математиков, что спасло Эндрю Уайлса от позора. Но кто может гарантировать, что другие ошибки не найдены лишь потому, что в мире нет специалиста, равного по классу Эндрю Уайлса? В связи с этими рассуждениями очевиден и вопрос, связанный «супер- генератором» человеческих идей (рис. 5.1).