Ему вторит Стюарт Рассел, профессор компьютерных наук Калифорнийского университета, заявляющий, что не готовить себя к эпохе сингулярности было бы самонадеянным или даже откровенно безответственным решением. Расселу принадлежит следующая цитата: «Если бы мы получили радиосигнал от более продвинутой инопланетной цивилизации, сообщающей, что они прибудут сюда через 60 лет, сомнительно, чтобы вы просто пожали плечами и сказали: “Эх, еще 60 лет дожидаться…”. Особенно если бы у вас были дети»[14].

На самом деле, я категорически не согласен с этой точкой зрения. Я бы не стал спешить с принятием серьезных решений после получения радиосигнала. Во-первых, я захотел бы убедиться, что сообщение действительно пришло от инопланетной цивилизации, и мне было бы интересно узнать, как звучит оригинальная запись сигнала, чтобы заранее знать, как правильно анонсировать его действия или прогнозировать события. Но, если бы это было первое, совершенно неожиданное сообщение, конечно, такой записи вероятно бы не было, что само по себе настораживает. В этой ситуации я бы, например, сразу вспомнил, что 30 октября 1938 г. знаменитая трансляция Орсоном Уэллсом радиоверсии антиутопического романа Герберта Уэллса «Война миров», в котором прозвучало сообщение, что пришельцы с Марса якобы вторглись в Нью-Джерси, напугала тысячи американцев и вызвала всеобщую панику.

Затем, если бы я решил, что этому посланию можно верить (разумеется, исключив из рассмотрения обоих Уэллсов, Орсона и Герберта), то задался бы вопросом о том, что именно мы можем сделать. Стоит ли готовиться к войне или планировать дружескую встречу? И еще: предположим, что в сообщении сказано, что инопланетяне прибудут через 200 лет, или даже через 500 – короче говоря, через какое-то время, пусть бы и через неделю. То, что мы должны сделать, будет радикально отличаться в зависимости от того, насколько близким или отдаленным предполагается появление космических пришельцев.

Это я пишу к тому, что люди, которые утверждают, что сингулярность уже близка, не являются всезнающими существами из какой-то более развитой, чужой цивилизации; они скорее приверженцы «культа сингулярности» здесь, на Земле. И несмотря на весь их энтузиазм или даже принципиальную возможность осуществления этой концепции существует немало веских аргументов (которые я рассмотрю в конце книги) в пользу того, что они ошибаются (и расскажу почему).

Большое значение здесь имеют временные масштабы. Верующий в возрастающую и непреодолимую мощь искусственного интеллекта лорд Рис, которого я цитировал ранее, предполагает, что машины, вероятно, захватят власть «в течение нескольких столетий». Допустим, он совершенно прав; однако и в этом случае если наступление эпохи сингулярности отдалено от нас настолько, насколько лорд Рис считает вероятным, то вполне возможно, что человечество погибнет гораздо раньше, например, от последствий ядерной войны, падения гигантского астероида, пандемии или бог знает от чего еще. Предположим однако, что нам все-таки удастся дожить до того пафосного момента.

В космическом масштабе несколько сотен лет могут выглядеть буквально мгновением, но для людей, ответственных за разработку и проведение в жизнь государственной политики, не говоря уже о каждом из нас в отдельности, этот срок может показаться бесконечностью. Внимание общества, направленное исключительно на проблему сингулярности, сбило бы с толку людей, принимающих решения, касающиеся повседневных проблем здесь и сейчас. Более того, эти повседневные проблемы, вероятно, будут оставаться с нами долгие годы. На самом же деле «повседневное» может легко сделаться «вековым» и даже «вечным», растянутым на тысячелетия. Формировать нашу жизнь и общественную политику сейчас так, чтобы подготовиться к сингулярности в какой-то неопределенный момент в будущем, было бы крайне дорогостоящим решением, чтобы не сказать – настоящим безумием. Хуже того, нерешенные сегодняшние проблемы легко могут заслонить в перспективе очевидные достижения роботов и искусственного интеллекта, делая нас неподготовленными и уязвимыми к тому, что находится непосредственно перед нашими глазами.

Итак, в предисловии к своей книге я принимаю одно важное решение. Обсуждение мира сингулярности со всеми ее последствиями я оставляю на самый конец. (Вы, если хотите, можете считать, что именно тогда случится и все прочее, скажем, Апокалипсис и осуществление пророчества о вечной жизни.) Все остальное в книге относится к предшествующему, точнее, попросту, к теперешнему миру, в котором роботы и искусственный интеллект хоть и становятся более значимыми в технике и быту, но человеческая раса еще не порабощена ими и тем более не уничтожена. Да, и еще – мы не загружены в киберпространство.

Сказанное вовсе не означает, что мы должны преуменьшать и тем более игнорировать изменения, которые роботы и искусственный интеллект производят в экономике и общественных отношениях. Эти изменения, конечно, будут весьма существенными. Мы можем идти – или не идти – навстречу сингулярности, но, несомненно, мы движемся в сторону экономики искусственного интеллекта. Эта книга о том, что означает такая экономика для человечества.

Как и во всех аналитических темах с быстро развивающейся концептуальной базой, в робототехнике и искусственном интеллекте сохраняется несколько запутанных моментов, касающихся терминов и определений. Что вообще мы подразумеваем под роботами и искусственным интеллектом? Считается, что слово «робот» впервые увидело свет в 1920 г. в пьесе R.U.R. (расшифровывается как Россумские универсальные роботы) чешского писателя-фантаста Карела Чапека[15]. Скорее всего, его лингвистические корни выросли из существительного «robota», означающего «подневольный труд», и глагола «robotrick», переводящегося как «прислуживать»[16].

Каким бы ни было его происхождение, слово «робот» вошло не только в язык, но и в наше воображение. Произнося его, мы практически однозначно представляем себе металлическую фигуру в форме человека, с головой, двумя руками и ногами. Однако многое из того, что мы могли бы назвать роботами в современности, имеет совершенно иную форму. Скорее, нам следует определить их как «механические устройства, которые можно запрограммировать на определенные действия», причем необязательно, чтобы они выглядели или пытались вести себя как люди. Я буду использовать слово «робот» для обозначения всех таких устройств, независимо от их внешнего вида и «начинки».

Термин «искусственный интеллект» был придуман в 1955 г. Джоном Маккарти, профессором математики Дартмутского колледжа в США. Вместе с коллегами из Массачусетского технологического института, лабораторий Bell и IBM он намеревался выяснить, как «заставить машины использовать язык, формировать абстракции и концепции, решать проблемы, с которыми сталкиваются люди, а также совершенствовать себя»[17].

Джон Брокман предположил, что термин «искусственный интеллект» не имеет смысла; он предпочитает говорить о «созданном интеллекте». Может быть, предложенный им вариант действительно имеет ряд преимуществ, но тем не менее словосочетание «искусственный интеллект» (как и его акроним ИИ) уже настолько укоренилось и в специальной литературе, и в разговорном языке, что менять его сейчас было бы бессмысленно. Соответственно, я буду придерживаться здесь традиционной терминологии.

Сделанные нами оговорки позволяют урегулировать вопросы с названиями, однако они по-прежнему оставляют нерешенными сложные проблемы наполнения терминов содержанием. Действительно, границы между обычными машинами и роботами, а также между роботами и искусственным интеллектом все еще не ясны. Являются ли, например, роботами стиральные машины? Как правило, мы не называем их подобным образом. Но не потому ли, что стиральные машины по форме не похожи на людей и не могут передвигаться? Точно так же, программируя устройства, которые мы обычно действительно называем роботами, на выполнение определенных задач или действий (с которыми мог бы справиться и человек), разве мы не наделяем их определенной степенью «разумности»? А ведь это, в сущности, и есть искусственный интеллект.