Brain Project
Предыдущая глава приоткрыла завесу, отделяющую гипотетическое будущее – пришедшие в упадок города, полные благодушных идиотов, и ветшающая инфраструктура, которую некому обслуживать. Закат человечества неизбежен, ведь глупеющему homo informaticus не то что цивилизационные задачи – арифметические будут не под силу. Фильм Idiocracy это наглядно показал.
В свое время homo sapiens вытеснил неандертальцев благодаря не IQ или агрессивности, а способности к кооперации. По неандертальским меркам сапиенсы были слабаками. Но они умели объединяться, для чего развили бесценный навык – речь. В итоге одиночки-неандертальцы освободили среду обитания для человеческого вида с более развитыми коммуникативными способностями. Новый вид двинул эволюцию вперед – без речи и умения координировать усилия не получится ни город построить, ни корабль в космос запустить.
В экстраполяции настоящего в будущее есть один подвох. Визуализируя будущее (например, снимая фильм Idiocracy), мы руководствуемся тем, что видим и знаем сейчас, без учета будущих данных. Как инженер XVIII века смог бы вообразить себе автомобиль? Как стального мерина с паровым котлом в животе, запряженного в железную повозку. Каким образом фантасты 50-х годов прошлого века описывали видеозвонки? В их представлении это делалось при помощи дискового проводного телефона, подсоединенного к телевизору. Как в представлении футурологов того же времени выглядел суперкомпьютер? Это был огромный город, полный толстенных проводов и шкафов для перфокарт. Отзвук этого архаичного представления проскальзывает даже в знаменитой «Матрице».
В одиночку homo informaticus проиграет сапиенсу, как тот – неандертальцу. Преимущество нового вида состоит в способности к качественно более широкой кооперации с себе подобными и искусственным интеллектом. Там, где сапиенс по привычке видит поле битвы и стремится доказать свое превосходство (отсюда бессмысленные сюжеты из разряда «бросить вызов машине», «победить компьютер в шахматы» и пр.) – там информатикус получит невиданные синергетические возможности.
Эндрю Мур, вице-президент Google Cloud, как-то сказал, что искусственный интеллект на самом деле «очень, очень глуп»: – AI хорош в выполнении вещей, с которыми наш мозг не может справиться, но только не в обобщениях, аналогиях или творческом мышлении[8].
Сегодня искусственный интеллект может оперировать запредельными для человеческого мозга объемами информации. Его алгоритмы успешно работают с многофакторными моделями и эффективно анализируют большие данные, в чем человеческий интеллект бессилен.
Эволюционное преимущество homo informaticus состоит в способности к качественно новой кооперации с себе подобными и искусственным интеллектом.
ИИ жаден до данных. Он легко заменяет эрудицию, долгое время считавшуюся признаком просвещенного человека. Однако он пока не в состоянии работать с ассоциациями высокого порядка, выдвигать парадоксальные гипотезы, приходить к интуитивным выводам, проявлять эмпатию, руководствоваться иррациональными допущениями, интерпретировать контекст или оценивать культурное значение. Ему недоступен сенсорный опыт. И еще – решая тривиальные для мозга задачи, он потребляет на несколько порядков больше энергии.
Пока развитие ИИ сдерживается «железом», а точнее – классической и довольно энергозатратной архитектурой фон Неймана, предполагающей постоянное обращение к памяти в ходе вычислений. Наращивание памяти и скорости операций перегружают канал обмена данными – это узкое место неймановской архитектуры. Многоядерность и увеличение тактовой частоты принципиально задачу не решат.
По тактовой частоте производители подошли к порогу в 10 ГГц, труднопреодолимому из-за физических ограничений. Сверхмощные и супербыстрые процессоры традиционной архитектуры энергозатратны и нуждаются в сложной системе охлаждения, но в решении управленческих, творческих и многих других задач не смогут приблизиться к мозгу.
Можно утверждать наверняка, что человечество не успокоится, пока не снимет аппаратные ограничения на рост возможностей ИИ. Формально мозг намного медленнее компьютера, но… он быстрее и экономичнее. Здесь нет парадокса.
Согласно тезису Чёрча – Тьюринга любая физически вычислимая функция может быть вычислена машиной Тьюринга. Если мышление рассматривать как вычислимую функцию, она может быть вычислена на машине Тьюринга. Проблема только в «железе».
Мозг намного медленнее компьютера, но… он быстрее и экономичнее.
Все дело в архитектуре и способе организации аналоговых вычислительных процессов, на основе которых, вероятно, будут созданы принципиально новые чипы – нейроморфы.
Для эмуляции мозговой деятельности в архитектуре фон Неймана потребуется сверхдорогой чип с миллионами ядер, сложная система охлаждения и электростанция, обеспечивающая его работу.
Быстрая и экономичная нейросеть, распознающая многозначную речь, оперирующая символами, понимающая контекст, интерпретирующая интонации и обучающаяся в ходе собственной практики – вопрос близкого будущего. Превзойдет ли она человека? В каком-то аспекте да. Сможет ли она совершенствоваться? Точно да. Будет ли ей нужен человек? Да, потому что ее работа заключается в максимально точной эмуляции мышления. Проще говоря, смысл ее существования заключается в стремлении приблизиться к прототипу, которым выступает человек.
Такие проекты, как европейский Human Brain Project [9] или Brain Corp. Евгения Ижикевича, моделируют биологические процессы в человеческом мозге для создания чипов с нейроморфной архитектурой. Вычислительные системы с нейроморфами окажутся на несколько порядков производительнее квантовых компьютеров, а энергопотребление будет сравнимо с энергозатратами мозга. Выделенная электростанция и охлаждение жидким азотом для работы нейроморфа не понадобятся. И главное – его архитектура позволит эмулировать человеческое мышление.
А теперь вопросы на миллион.
Если ИИ сможет эмулировать мышление, возникнет ли у него самосознание? Осознает ли он себя субъектом мыслительных процессов? Ощутит ли собственное «я» – или это привилегия людей?
I-Я
Чтобы понять, может ли ИИ обладать сознанием, попробуем хотя бы в первом приближении разобраться с сознанием человека. Здесь нас поджидают большие трудности. Расхожая фраза «голова – предмет темный и исследованию не подлежит» имеет в виду не сложнейшую биологию мозга, а именно человеческое сознание. Оно явно существует (Декарт утверждал, что это единственное, что существует), но что это такое? Точного определения нет.
Кстати, можно с определенной уверенностью предположить, что люди, вопреки Рене Декарту, не обладают стопроцентным эксклюзивом на сознание и самосознание. Исследования зоолога Дональда Гриффина [10] (Donald Griffin), опыты Роберта Хэмптона [11] (Robert R. Hampton) указывают на признаки метасознания (знания о своем сознании) по крайней мере у высших приматов.
Главная сложность при определении сознания – его абсолютная приватность, закрытость для внешнего наблюдателя. Мы не можем заглянуть в сознание другого человека, чтобы сопоставить его со своим и путем сравнения прийти к какому-то эталонному определению. Например, можно предположить, что один и тот же цвет в представлении двух разных людей по-разному отображается в их сознании – но убедиться в этом невозможно.
Конечно, можно игнорировать запутанный вопрос о сознании и просто сосредоточиться на получении нейроморфного процессора первого поколения. Все равно смоделировать мозг в полном объеме сразу не получится – значит, будем думать о сознании по мере приближения к нему, если этот вопрос вообще возникнет. Но… исследования показывают, что некоторыми признаками сознания обладают даже пчелы. Между тем мозг пчелы насчитывает всего миллион нейронов против ста миллиардов у человека. И получить подобный сравнительно несложный нейроморфный процессор люди смогут совсем скоро[12].
