Кроме того, имеются исторические примеры бессмысленного истребления людей – обстрел гитлеровцами Лондона Фау-2, поджигание скважин в Кувейте. Психологический пример – подрыв себя гранатой при взятии в плен.

Отнюдь не любой вариант глобальной катастрофы годится как машина судного дня. Это должен быть процесс, который по решению некой группы людей может быть запущен в строго определённый момент времени и вести к глобальной катастрофе со значительной вероятностью, близкой к 100 %, по крайней мере, с точки зрения разработчиков устройства. Машина судного дня также должна быть неуязвима к попыткам предотвратить её применение, к несанкционированному применению и должна быть возможность продемонстрировать реалистичность её применения, что нужно шантажистам. (Сейчас в качестве машины судного дня функционально выступает обладание хоть каким-то ядерным оружием, хотя одна атомная бомба весь мир не уничтожит. Например, такова сейчас роль ядерной бомбы в руках Северной Кореи – она хорошо спрятана, но наличие её продемонстрировано.) Вот, вероятно неполный, список возможных машин судного дня:

• Взрыв водородной бомбы

а) в супервулкане

Б) в каменноугольном пласте

В) в ядерном реакторе

Г) в слое газовых гидратов в океане, с расчётом на цепную реакцию дегазации.

• Создание водородной сверхбомбы стационарного типа.

• Взрыв кобальтовых зарядов, запуск реактора-чёртовой трубки.

• Сведение астероида с орбиты.

• Накопление массы антиматерии.

• Проплавление коры Земли с помощью жидкого ядерного реактора по типу капли.

• Распыление спор антракса в атмосфере, высвобождение большого количества разных вирусов.

• Слив диоксина в океан

• Выпускание генетически модифицированных производителей токсинов и вирусов (диоксиновая плесень, чумная вошь)

• Распространение сотен миллиардов микророботов, атакующих всё живое.

• Уничтожение озонового слоя с помощью некого катализатора.

• Сочетание этих факторов.

Выше мы составили насколько возможно полный список однофакторных сценариев глобальной катастрофы. Есть и другие варианты этого списка, например, в статье Н. Бострома и в книге Дж. Лесли, с незначительными отличиями. Теперь мы должны задаться вопросом, возможны ли сценарии, в которых человечество гибнет не по какой-то одной причине, а от некоторого сочетания факторов, и если да, то какова их вероятность и каковы эти факторы. Скажем, может ли быть так, что один континент истребят супервирусы, другой – нанороботы, а третий вымрет от голода?

Интеграция различных технологий, создающие ситуации риска

Сам факт быстрого развития сильных технологий создаёт зону риска. Технологии имеют тенденцию помогать друг другу в развитии. Скажем, развитие компьютеров помогает рассчитывать свойства новых материалов, а новые материалы позволяют создавать ещё более производительные процессоры для компьютеров. В современной технологии это известно под названием NBIC-конвергенция, что расшифровывается как nano-bio-info-cogno и означает процесс слияния нанотехнологий, биотехнологий, компьютерных технологий и исследований человеческого мозга. Это слияние происходит за счёт обмена методами и результатами, а также реализации проектов, объединяющих элементы этих технологий, например, когда оболочки вирусов используются в качестве элементов для нанороботов , или с помощью генной инженерии выводятся мыши с флуоресцентными маркерами в нейронах мозга для изучения процессов мышления. Конвергенция технологий нарастает по ходу прогресса и происходит выделение быстро развивающегося ядра технологий (NBIC), которые способны каждая помогать каждой. При этом они могут делать вклад и в ядерные, и в космические технологии, но не получить от них обратного вклада, а в силу этого не получается кольца положительной обратной связи – и эти технологии отстают от мэйнстрима технологического прогресса. Базой для NBIC технологий является миниатрюризация. Конвергенция NBIC технологий ведёт к некому пику, которым, вероятно, является сильный искусственный интеллект.

Подобная интеграция неоднократно имела место в прошлом при создании оружия. Здесь технологии не помогали в развитии друг друга, но создавали принципиально новые агрегаты. Например, самолёт с пулемётом, фотоаппаратом и радиосвязью – в качестве разведчика и истребителя в первую мировую войну. Или межконтинентальная баллистическая ракета, в которой были объединены достижения в области ядерного оружия, ракетной техники и компьютеров, каждое из которых по отдельности было бы в тысячу раз безопаснее. То есть атомная бомба без средств доставки, или ракета с обычной боеголовкой, или ракета без систем наведения. (При этом хочется отметить, что нынешнее сокращение ядерных арсеналов компенсируется ростом их точности, что повышает их поражающую силу.)

Часто имеющиеся прогнозы будущего и фантастика описывают будущее как настоящие плюс одна какая-то новая черта. Тем же грешат и прогнозы глобальных рисков: они описывают появление в мире какой-то одной опасной технологии и затем рассматривают последствия этого события. Например, как изменится мир, если в нём появятся развитые нанотехнологии. Очевидно, что этот подход несостоятелен, так как будущие технологии, за счёт их совместного развития, будут появляться одновременно и вступать друг с другом в сложные взаимодействия.

При этом имеет место и последовательная, и параллельная конвергенция. Параллельная конвергенция имеет место, когда несколько новых технологий объединяются, чтобы создать качественно новый продукт, например, межконтинентальную ракету с ядерным зарядом. Последовательная относится к цепочке событий, в которой одни факторы запускают другие, например: теракт – экономический кризис – война – применение биологического оружия.

Парные сценарии

Рассмотрим для начала гипотетические парные сценарии глобальной катастрофы, то есть разные варианты взаимоусиления основных факторов, взятых парами, - при этом понятно, что в реальности они будут действовать все вместе, но эти пары могут стать «кирпичиками» (или, скорее, связями в графе) для более сложного прогнозирования. При этом дадим эскизное описание такого рода взаимодействия, фактически, в порядке мозгового штурма. Здесь каждый парный сценарий не следует воспринимать как окончательный прогноз – но не потому, что он слишком фантастичен, а потому, что он не учитывает влияния ещё ряда факторов.

ИИ и биотехнологии

Последовательная конвергенция (цепочка событий):

1. Генетически модифицированные сверхлюди будут обладать сверхинтеллектом, который позволит им создать настоящий компьютерный ИИ.

2. ИИ создаст сверх-вирус как оружие.

3. Люди вымрут от вируса, и придётся вводить вместо них роботов.

Параллельная конвергенция: возникновение новых продуктов на базе обеих технологий:

4. Биологическая сборка сверхплотных чипов резко ускорит рост ИИ.

5. Специальные вирусы будут устанавливать созданные самим ИИ программы в мозг людям.

6. ИИ будут создавать непосредственно из биоматериалов – нейронов, ДНК.

ИИ и сверхнаркотик

Последовательные сценарии:

1. Например, ИИ захочет обрадовать всех людей и создаст им такой наркотик. Или сам ИИ и будет таким наркотиком (см. виртуальная реальность, интернет, управляемые сны).

2. По мере смерти людей от сверхнаркотика придётся заменять их на ИИ.

3. Или наоборот, придётся придумать некое сверх-телевидение, чтобы успокоить людей, которые остались без работы из-за ИИ.

4. Сверхнаркотик будет оружием враждебного ИИ против людей.

Параллельная конвергенция:

5. ИИ придумает сложную комбинацию магнитных полей, создающую точный наркотический эффект в мозгу.

6. Связь ИИ и человеческого мозга через нейрошунт принципиально усилит возможности и того, и другого. ИИ получит доступ к человеческой интуиции, а человек – к неограниченной памяти и скорости мысли.