Они подвернулись мне в период формирования личности, но составляют лишь малую часть из всего написанного Фредом. В более поздних его романах обсуждаются физические пределы астрономической Вселенной. Чудесное странствие и для писателя, и для читателя.

Спасибо тебе, Фред.

Предварительные замечания

По тому, как называется моя лекция, ясно, что я хотел бы дать определение тому, что понимаю под Технологической Сингулярностью, и кратко обсудить его.

Итак, представляется вероятным, что с доступной нам ныне или в достаточно близком будущем технологией мы способны будем сотворить существ, превосходящих людей во всем, что касается интеллекта и творческих способностей, либо сами превратиться в таковых. После этого события, которое я называю Технологической Сингулярностью, дальнейшая история для нас так же непостижима, как опера для плоского червя.

Из сказанного почти автоматически явствует, что долгосрочное планирование в варианте будущего, где Сингулярность состоится, бессмысленно.

Однако возможно, что Сингулярности не произойдет. В этом случае планирование за пределами срока в следующие пятьдесят лет обретает значительную практическую важность. Да и потом, хороший писатель–фантаст (или сценарист) всегда рассматривает альтернативные варианты.

В дальнейшем обсуждении также подразумевается, что сверхсветовые путешествия никогда не будут возможны.

Важное замечание для тех, кто выпал из контекста: я все еще считаю Сингулярность наиболее вероятным некатастрофическим результатом нашего близкого будущего.

Катастрофических сценариев изучено много (см., например, работу [королевского астронома Великобритании] Мартина Риса Our Final Hour), но сегодня я попробую сосредоточиться на тех вариантах будущего без Сингулярности, где мы все равно выживаем.

Век напрасных мечтаний

Возможное объяснение “неудавшейся Сингулярности” в том, что мы так и не научились правильно “писать код” (или, если вам угодна более мистическая трактовка, “не нашли душу в железе”). Вот некоторые симптомы:

• Разработка программ продолжает доминировать над созданием программ.

• Программные проекты, в которых делаются попытки адекватно использовать стремительно растущую мощь железа, терпят все более сокрушительные неудачи.

• Провалы программных проектов становятся так сокрушительны, что их не исправишь ни за какие деньги, и единственной разумной альтернативой видится полный отказ от продолжения работы.

• Впечатляющие провалы крупных проектов, рассчитанных на полную автоматизацию. К примеру, диспетчеру–человеку случается иногда столкнуть пару самолетов, но полностью автоматизированная система способна загнать в одну точку пространства–времени десяток самолетов.

• Такие неудачи ведут к снижению спроса на усовершенствованное оборудование, которое не получается толком использовать. Производители железа пересматривают графики выпуска усовершенствованной продукции. Закон Мура перестает действовать даже несмотря на то, что физические преграды, сдерживающие его, еще не достигнуты.

• В итоге стагнируют даже базовые исследования в сопряженных областях наук о материалах. Среди прочего потому, что новые поколения компьютерных систем, предназначавшиеся для них, так и не увидели свет.

• Последними в потолок усовершенствований упираются аппаратные накопители простых и существенно структурированных данных. Конечным результатом будут исключительно хорошие аудиовизуальные инструменты индустрии развлечений (ничего трансцендентного в них не окажется) и очень крупные базы данных (но программное обеспечение, необходимое для эффективной работы с ними, не появится).

• Большинство найдет не слишком удивительным тот факт, что не только обещания сильного ИИ не сбылись, а и другие амбициозные проекты, существенно опиравшиеся на перспективу ИИ (скажем, нанотех–ассемблеры), ускользают от реализации.

Этот ранний период получит имя Века Напрасных Мечтаний.

Более подробные характеристики раннего периода

• На дворе 2040 год. Техногики в домах престарелых озадаченно бродят из угла в угол, скребут затылки и жалобно восклицают: “Но… но… а где же Сингулярность?”

Некоторые последствия могут показаться довольно обнадеживающими.

• Закон Эдельсона утверждает, что число важных идей, которые не были своевременно высказаны, растет экспоненциально. На мой взгляд, это связано с головокружительным продвижением по пути к прогрессу и неспособностью обычных людей за ним поспеть. Если прогресс замедлится, это, возможно, даст нам время догнать его (хотя базы данных по биологическим наукам, думается, в любом случае будут разбухать со скоростью, превышающей любые возможности анализа).

• Возможно, у нас наконец появится время оглянуться на век глючных программ и кое–что переписать, но на сей раз рационально, с чувством, толком, расстановкой. (Ага, щас.)

С другой стороны, шансы человечества выжить в этом веке становятся еще сомнительней:

• Угрозы экологического и ресурсного толка никуда не исчезнут.

• Угрозы военной природы также никуда не денутся. В первые годы XXI века нас основательно (и оправданно!) отвлекла опасность ядерного терроризма. Мы склонны игнорировать уроки 1970–1990‑х, когда десятки тысяч ядерных ракет рисковали в любой момент свалиться народам на головы, причем даже без четко выраженного политического повода к этому. Мы прошли по узкому коридору и выжили. Однако откат к стратегиям взаимного гарантированного уничтожения весьма вероятен, а в сочетании с нагрузкой на окружающую среду он может без труда привести цивилизацию к гибели.

Обзор перспектив, открывающихся для проекта Long Now

Предположим, что человечество переживет XXI век. Когда Век Напрасных Мечтаний закончится, какие перспективы откроются для долгой человеческой эры? Я хотел бы проиллюстрировать некоторые возможности диаграммами, охватывающими весь интересный для Long Now период, от десятков тысячелетий до нашего времени до десятков тысячелетий после нашего времени, но без отчетливых временных отсечек (это кажется разумным, если представить себе всю человеческую эпоху как единое длительное Настоящее).

Я не стану строить привычного графика численности населения в зависимости от времени, а займусь построением графика зависимости технологий от численности населения. Вот наше нынешнее положение дел:

Не слишком впечатляюще. Больше всего впечатляет, однако, как неуклонно и упрямо мы продвигаемся. Даже Черная Смерть едва царапнула кривую технологического прогресса. Возможно, так и должно было быть — а может, мы просто не видели всей картины. (Отмечу, что экстремальные положения справа — по населению — или вверху — по разрушительному потенциалу технологии — скорее всего будут означать катастрофу цивилизации на Земле.)

Без Сингулярности вырисовываются три вероятности (равноправных сценария):

Сценарий 1: Возврат к безумию взаимного гарантированного уничтожения

Я обещал, что попытаюсь избегать экзистенциальных катастроф, но хочу подчеркнуть, что они никуда не делись. Избежать их — важнейшая долгосрочная задача.

• Сценарий “скверного денька”, занимающий верхнюю часть диаграммы, должен быть очень хорошо знаком тем, кто помнит такие книги, как Fate of the Earth Джонатана Шелла, и концепцию ядерной зимы TTAPS [Turco, R.P., et al. (1983). Nuclear Winter: Global Consequences of Multiple Nuclear Explosions, Science 222: 1283–92].