Вам нужно мышление — оно у вас есть, отвечали умные классические механицисты, которые придумали сложную машину с внутренними состояниями. Посмотрите, как ведет себя даже простой мобайл [4], — говорили они. За ним так забавно наблюдать, поскольку его реакции на характер ветра бесконечно разнообразны. А почему? Потому что каждая реакция, в дополнение к конкретному стимулу, зависит от множества сочетаний различных внутренних состояний ветвей мобайла. В случае мозга, эти состояния синонимичны мышлению, чувству и так далее, которые представляют собой эпифеномены внутренних состояний сложной машины, каковой является человеческий мозг.
Голоса оппозиции по-прежнему возражали: а как насчет свободной воли? Человеческие существа обладают свободой выбора. Механицисты отвечали, что свободная воля — это просто иллюзия; они добавляли интересный довод, что существует возможная физическая модель иллюзорной свободной воли. Изобретательность исследователей машинного ума поистине достойна восхищения. Теперь существует идея, согласно которой, хотя классические системы, в конечном счете, являются детерминистическими и демонстрируют, в основном, детерминистическое поведение, возможен и хаос: временами очень незначительные изменения начальных условий могут приводить к очень большим различиям в конечном исходе для системы. Это порождает неопределенность (примером этого хаотического поведения может служить неопределенность погодных систем), и неопределенность предсказания можно интерпретировать как свободу воли. Поскольку хаос, в конечном счете, является детерминированным, отсюда следует, что это иллюзия свободной воли. Итак, наша свободная воля - это иллюзия?
Еще более убедительный довод в пользу механической картины человека предложил английский математик Алан Тьюринг. По его мнению, когда-нибудь мы сконструируем машину, подчиняющуюся классическим детерминистским законам — полупроводниковый компьютер, который будет способен вести беседу с любым человеком, обладающим так называемой свободной волей. Более того, он доказывает, что беспристрастные наблюдатели не смогут отличать разговор компьютера от разговора человеческого существа. (Я предлагаю девиз для нового общества: ДРЧИИ — Движение за равенство человеческого и искусственного интеллекта.)
Хотя я восхищаюсь многими из достижений в области искусственного интеллекта, они не убеждают меня в том, что мое сознание — это эпифеномен, а моя свободная воля — мираж. Я не считаю, что мне присущи ограничения, налагаемые на классическую машину локальностью и причинностью. Я не верю, что это реальные пределы для любого человеческого существа, и боюсь, что понимание их в качестве таковых может стать самоосуществляющимся пророчеством.
«Мы — отражения мира, в котором живем», — говорил историк науки Чарльз Сингер. Вопрос в том, насколько большим может быть отражение? Небо отражается и в маленьких прудах, и в могучем океане. Какое отражение больше?
Но мы проделали большой путь в направлении создания разумной машины Тьюринга, возражают сторонники машинного ума. Наши машины уже способны проходить тест Тьюринга со случайным ничего не подозревающим человеком. Несомненно, при дальнейшем обучении и развитии, они будут иметь ум, подобный человеческому. Они будут понимать, обучаться и вести себя, как мы.
Сторонник машинного ума продолжает в детерминистской манере: если мы можем создавать машины Тьюринга, которые во всех известных отношениях ведут себя как люди, разве это не доказательство того, что наш собственный ум — это всего лишь собрание полностью детерминированных классических компьютерных программ? Для такой точки зрения не представляет препятствия и человеческая непредсказуемость, поскольку детерминированность — это не то же самое, что предсказуемость. Сам по себе, этот довод убедителен. Если наши компьютеры могут имитировать человеческое поведение — прекрасно, это облегчит общение между нами и нашими машинами. Если, изучая работу компьютерных программ, имитирующих некоторые виды нашего поведения, мы что-то узнаем о самих себе, это еще лучше. Однако от имитации нашего поведения на компьютерах очень далеко до доказательства, что мы состоим из тех программ, что осуществляют имитацию.
Конечно, даже один пример имеющейся у нас программы, которую никогда не сможет имитировать классический компьютер, разрушит миф ума как машины. Математик Роджер Пенроуз доказывает, что компьютероподобного алгоритмического рассуждения недостаточно для открытия математических теорем и законов. (Алгоритм представляет собой последовательную процедуру решения проблемы: строго логический подход, основанный на правилах.) Поэтому, спрашивает Пенроуз, откуда же берется математика, если мы действуем как компьютеры? «Математическая истина — нечто-то устанавливаемое нами просто с помощью алгоритма. Я также полагаю, что решающим элементом в нашем постижении математической истины является сознание.Мы должны "видеть" истинность математического доказательства, чтобы быть убежденными в его правильности. Это "видение" составляет самую суть сознания. Оно должно присутствовать всегда,когда мы непосредственно воспринимаем математическую истину». Иными словами, наше сознание должно существовать прежде нашей алгоритмической компьютерной способности.
Еще более сильный довод против идеи ума как машины выдвинул Нобелевский лауреат, физик Ричард Фейнман. Классический компьютер — замечает Фейнман — никогда не сможет имитировать нелокальность (это специальный термин, означающий передачу информации или влияния без локальных сигналов; такая передача представляет собой действие на расстоянии и происходит мгновенно). Поэтому, если у людей существует нелокальная переработка информации, то это одна из наших неалгоритмических программ, которую никогда не сможет имитировать классический компьютер.
Есть ли у нас нелокальная переработка информации? Очень убедительным доводом в пользу нелокальности может быть наша духовность. Еще один спорный довод в пользу нелокальности — это заявления о паранормальном опыте. На протяжении веков люди утверждали, что обладают способностью к телепатии — передаче информации от ума к уму без локальных сигналов, и теперь для этого, как будто, есть кое-какие научные доказательства.
Сам Алан Тьюринг понимал, что телепатия представляет собой один надежный способ отличить человека от вычислительной машины в тесте Тьюринга: «Проведем имитационный эксперимент, используя в качестве свидетеля человека, обладающего телепатическими способностями, и машину. Эксперт может задавать, например, такие вопросы: "Какой масти карта, которая у меня в руке?" Человек, с помощью телепатии или ясновидения, правильно угадывает 130 из 400 карт. Машина может давать только случайные догадки, и, возможно, наберет 104 правильных ответа, и, таким образом, эксперт сделает правильное определение».
Экстрасенсорное восприятие (ЭСВ), которое, несомненно, остается спорным — это лишь один довод против могущества классического компьютера. Еще одной важной способностью человеческого ума, по-видимому, недостижимой для компьютера, является творчество. Если творчество включает в себя разрывность, резкие отходы от прошлых паттернов мышления, то способность компьютера к творчеству, безусловно, сомнительна, поскольку классический компьютер оперирует с непрерывностью.
Однако, в конечном счете, все дело в сознании. Если специалисты по машинному уму смогут создать классический компьютер, который будет сознательным в том же смысле, в каком сознательны мы с вами, дело примет другой оборот, несмотря на все перечисленные выше второстепенные соображения. Смогут ли они? Как знать. Предположим, что мы снабдили машину Тьюринга несметным количеством программ, совершенно имитирующих наше поведение; стала бы тогда машина сознательной? Безусловно, ее поведение демонстрировало бы все сложности человеческого ума, и, как машина Тьюринга, она была бы безупречной имитацией человека (за исключением немногих таких специфически человеческих характеристик, как ЭСВ и способность к математическому творчеству, которые энтузиасты машинного ума в любом случае считают сомнительными), но была бы она подлинно сознательной?
