Самым известным тестом для определения искусственного интеллекта является тест Тьюринга. Но его можно рассматривать только лишь как обобщенное описание, а не как точное определение. Например, он не дает ответов на многие вопросы: кто участвует в тестировании или какие вопросы задают машине.
В ретроспективе обнаружилось, что развитие искусственного интеллекта тесно связано с автоматизацией. И последняя является даже своего рода истоком развития. Большинство людей ошибочно полагают, что автоматизация – это и есть искусственный интеллект. Но она появилась гораздо раньше, чем мы можем себе представить. Например, первый унитаз, который установили в императорском дворце королевы Елизаветы в далеком XVI веке, был уже автоматизирован. И, конечно, это не самый ранний пример. В эпоху электричества схема автоматизации была заменена транзисторами. Позже появились интегральные схемы, управляемые все усложняющимся программным обеспечением. А сегодня в нашу жизнь вошли автоматизированные системы, такие как электронная коммерция, интернет-банкинг или система онлайн-бронирования.
Несомненно, система автоматизации уже продемонстрировала свои возможности. Такие системы, как онлайн-банкинг, осуществляют сложные операции с более высокой точностью и эффективностью, чем обычные работники. Самые простые системы демонстрируют умное поведение. Например, унитаз оценивает уровень воды в бачке и в соответствии с этим своевременно открывает и закрывает клапан подачи воды. Все это качественно улучшает человеческую жизнь. Но ни интернет-банкинг, ни унитаз мы не рассматриваем как искусственный интеллект. Автор этой книги разработал программное обеспечение, которое позволяет создавать современную поэзию. Причем отличить классические китайские стихи, современные стихи машины и современные стихи человека практически невозможно. За последние годы не одна система прошла тест Тьюринга в лабораторных условиях. Но мы же все-таки не считаем их обладающими искусственным интеллектом, верно?
В 1980-х годах автор книги принимал участие в разработке промышленной системы мониторинга. В качестве ядра для нее был использован процессор Z 80, а программирование осуществлялось на языке ассемблера. Система контролировала сотни параметров блока и осуществляла регулировку параметров в соответствии с изменениями. Но, по нашему мнению, это тоже нельзя назвать искусственным интеллектом. Язык ассемблера характеризуется прозрачностью на аппаратном уровне. Приходится вручную учить машину делать все шаги: отправлять поступающие данные в определенный отсек памяти, прерывать команды, возвращаться на шаг назад и т. д. В таком случае можно проследить, по какой блок-схеме работает мозг машины, и вычислить, какая команда ему поступила для осуществления операции. По большому счету эта система мониторинга не слишком отличается от системы работы унитаза. Разработчики более сложных систем, интернет-банкинга или электронной коммерции, знают все внутренние процессы. Каждый шаг системы также контролируется в программном обеспечении. Это вновь более сложная версия унитаза. А если говорить о системе-поэте, которая прошла тест Тьюринга, то она извлекает слова из логического дерева. Потом обрабатывает, комбинирует по смыслу и рифмует. Программисты понимают, что это также не имеет отношения к искусственному интеллекту.
Здесь можно привести одно мудрое китайское высказывание – когда мы поймем людей, которые ищут карты в комнате, ощущение разумности исчезнет.
Мы считаем, что системы с искусственным интеллектом, такие как эволюционные алгоритмы или глубокое обучение, имеют одну общую черту: все они более или менее по характеристикам напоминают «черный ящик». Теоретически мы все еще сможем отслеживать их шаги. Но из-за огромного количества вычислений сделать это практически невозможно. Мы действительно ощутим уровень их разумности.
Точного определения искусственного интеллекта еще не существует. Но теперь мы можем увидеть его ключевые особенности: это искусственная система с интеллектуальными характеристиками, которая осуществляет и воспроизводит те вычислительные процессы, которые не подвластны человеческому разуму. Другими словами, мы согласимся с тем, что у машины есть собственный интеллект только в том случае, если не будем знать, что и как она думает.
Но столкнувшись с этим явлением, мы должны быть беспристрастны. Потеряем ли мы в конечном итоге контроль над искусственным интеллектом?
Сегодня вопрос о развитии искусственного интеллекта вызывает серьезную обеспокоенность. Цитируя Маска, ИИ становится более опасным, чем ядерные бомбы. Средства массовой информации создают впечатление, что мы стоим на пороге эры машин и момент, когда искусственный разум завоюет мир, уже не за горами. Последняя глава этой книги выражает схожее мнение. В книге «Сингулярность приближения» Кузвиль даже определяет конкретную дату начала эры ИИ – 2045. 2/3 людей, прочитавших книгу, будут к тому моменту еще живы.
Если взглянуть на ситуацию под рациональным углом, то становится понятно, что сверхчеловеческий искусственный интеллект все еще относится к категории научной фантастики. Любое разумное суждение в этом направлении отвергается как консервативное и с недостатком воображения. Публика предпочитает научно-фантастические захватывающие сюжеты банальной реальности. Выступая в роли автора научно-фантастического труда, Робин Ли может сказать, что некоторые из предсказаний могут воплотиться в жизнь. Но большинство еще очень долго не приблизится к реальности. Общество предполагает, что технические барьеры, преграждающие путь развитию ИИ, будут преодолены в обозримом будущем. Но это не так. Создание сверхинтеллекта сталкивается с огромными техническими препятствиями, такими как новая архитектура фон Неймана, глубокое понимание человеческого мышления и т. д. Никто не может быть уверен, что прорыв когда-либо будет достигнут. Многие технологии, такие как квантовые вычисления, еще далеки от практического использования.
Таким образом, разумнее обратить внимание на события, которые имеют отношение к ближайшему будущему. Эта тема и легла в основу данной книги.
В последнее время наметилась тенденция выхода искусственного интеллекта из научных лабораторий. По словам одного из интернет-хакеров, они становятся все доступнее, а мы сталкиваемся с неизбежной проблемой: искусственный интеллект не отнимает нашу свободу и жизнь, но отнимает наши рабочие места. Еще до того, как ИИ выйдет из-под контроля человека, он может подчинить нас воле капиталистов.
Некоторые ученые придерживаются мнения, что беспокоиться об этом не стоит, и вспоминают в качестве примера историю индустриализации. В начале XX века 50 % американского общества было занято в сфере сельского хозяйства, сейчас этот показатель сократился до 4 %. Урбанизация поглотила лишних фермеров. Изменения, связанные с эрой искусственного интеллекта, будут существенно отличаться. Люди с помощью машин смогут выполнять большие объемы работы. Но город не сможет предоставить им необходимое количество рабочих мест. Востребованной останется только лишь творческая работа. Но если мир будет полностью состоять из ученых и художников, то будет скорее напоминать кошмар, обреченный на пустоту жизни большинства его жителей. Будет бесполезен и для себя, и для общества.
Но в подобном образе мышления что-то не так. Конечно, с древних времен люди трудились, чтобы выжить. Работа была прекрасна. Но вовсе не обязательна для тех, кто привык жить красивой жизнью. Теперь мы сможем создать машину, которая освободит человека от тяжелого бремени работы – величайшего достижения цивилизации. Не следует рассматривать это как катастрофу. Нам просто придется измениться в соответствии с новыми реалиями.
Как завершится переход от современного общества к обществу искусственного интеллекта? Существует два варианта развития событий.
Первый – бесконечный конфликт между искусственным интеллектом и его пользователями. Проблемы, порождаемые искусственным интеллектом в социальных, экономических и политических системах, перестанут поддаваться анализу. ИИ будет быстро захватывать все сферы человеческой жизни. А социальная система, которая бы могла ему соответствовать, не появится в одночасье. Мир погрузится в беспросветный хаос, сопровождаемый безработицей, экономическими и политическими проблемами.
