Литмир - Электронная Библиотека
Содержание  
A
A

— Конечно, — согласился Дэниел. — Именно поэтому я так и заинтересован вас нанять. О лабиринте искусственного интеллекта вы знаете намного больше меня, и любая разработанная вами стратегия будет неизмеримо превосходить слепой перебор вариантов.

— Я не говорила, что бреду на ощупь в темноте, — возразила она. — Если бы дело обстояло настолько плохо, я занималась бы совершенно другой проблемой. Однако я не вижу, какую принципиальную разницу может создать этот процессор.

— Что создало единственный известный нам пример разума? — спросил Дэниел.

— Эволюция.

— Совершенно верно. Но я не хочу ждать три миллиарда лет. Поэтому мне нужно сделать процесс отбора намного более совершенным, а источники вариаций — более целевыми.

Джули обдумала его слова.

— Вы хотите попытаться методом эволюции создать настоящий искин? Разумный, человеческого уровня искусственный интеллект?

— Да.

Дэниел увидел, как напряглись ее губы, как тщательно она подбирает слова, прежде чем ответить.

— При всем моем уважении, — сказала она в конце концов, — я не считаю, что вы тщательно все обдумали.

— Как раз наоборот, — заверил Дэниел. — Я планировал это двадцать лет.

— Эволюция — это история и неудач, и смертей. Вы хотя бы представляете, сколько разумных существ жило и умерло на пути к Homo Sapiens? И сколько страданий было на этом пути?

— Частью вашей работы будет свести эти страдания к минимуму.

— К минимуму? — Похоже, его слова ее искренне потрясли, словно его предложение было еще хуже небрежного предположения о том, что процесс не затронет этические проблемы. — Да какое у вас есть право вообще их причинять?

— Вы ведь благодарны тому, что существуете, разве не так? Независимо от страданий ваших предков.

— Да, благодарна, — признала она, — но в человеческом случае эти страдания не были сознательно кем-либо навязаны, а любого альтернативного пути, ведущего к появлению человека, не имелось. И если бы справедливый творец действительно существовал, то я не сомневаюсь, что он буквально действовал бы так, как описано в книге Бытия, и совершенно точно не использовал бы эволюцию.

— Справедливый и всемогущий, — уточнил Дэниел. — Жаль, что второе качество еще реже первого.

— А по-моему, для создания чего-либо по образу и подобию своему всемогущество не требуется. Лишь чуть больше терпения и самопознания.

— Но мой метод не будет подобен естественному отбору. Не такой слепой, не такой жестокий, не такой расточительный. И вы будете вольны вмешиваться в него, когда пожелаете — чтобы ввести те смягчающие меры, которые сочтете подходящими.

— Смягчающие меры? — Джули встретила его взгляд, и он увидел, как неверие в ее глазах мгновенно сменилось чем-то более мрачным. Она встала и взглянула на телефон у себя на запястье. — У меня здесь не ловится сигнал. Вы не могли бы вызвать мне такси?

— Пожалуйста, выслушайте меня. Дайте мне еще десять минут, а потом вертолет доставит вас в аэропорт.

— Я предпочла бы добраться домой самостоятельно. — Она бросила на Дэниела взгляд, ясно показывающий, что ее решение окончательное.

Он вызвал ей такси и проводил к лифту.

— Я знаю, что вы сочли это морально вызывающим, и я уважаю ваше мнение, — сказал он. — Я и не мечтал нанять того, кто считает подобные темы мелкими и тривиальными. Но если я этого не сделаю, то сделает кто-то другой. Тот, чьи намерения намного хуже моих.

— В самом деле? — Теперь в ее тоне прозвучал неприкрытый сарказм. — А как именно само существование вашего проекта помешает этому гипотетическому бин Ладену от ИИ осуществить свой?

Дэниел был разочарован — он ожидал, что она хотя бы поймет, что стоит на кону.

— Это гонка, в которой предстоит сделать выбор между богоравностью и порабощением, — сказал он. — Того, кто добьется успеха первым, остановить будет невозможно. А я не собираюсь быть чьим-то рабом.

Джули вошла в лифт. Он вошел следом.

— Знаете, как звучит современная версия «пари Паскаля»?[58] Подлизывайся к как можно большему числу трансгуманистов — а вдруг кто-нибудь из них превратится в бога? Наверное, вам подошел бы такой девиз: «Будь добр к каждому говорящему роботу, он может оказаться дядюшкой божества».

— Мы будем добры, насколько это возможно, — сказал Дэниел. — И не забывайте, что мы сможем выбрать природу этих существ. Они будут счастливы тому, что существуют, и благодарны своему создателю. Мы можем делать отбор по этим признакам.

— Значит, вы намерены создать недочеловеков, которые станут махать хвостами, когда вы почешете их между ушей? Вы можете обнаружить, что получите от этого что-то в обмен.

Лифт прибыл в вестибюль.

— Подумайте о моем предложении, не принимайте решение сгоряча, — попросил Дэниел. — Может звонить мне в любое время.

Сегодня вечером коммерческого рейса в Торонто не было, она застрянет в гостинице, тратя на это деньги, которые у нее далеко не лишние, и думая о зарплате, которую сможет потребовать от него теперь, после столь тяжелого торга. Если она переосмыслит все это твердолобое морализаторство, взглянув на него как на осознанную стратегию переговоров, то без труда проглотит свою гордость.

Джули протянула руку, он пожал ее.

— Спасибо за обед, — поблагодарила она.

Такси уже ждало. Он прошел с ней через вестибюль.

— Если хотите увидеть ИИ до конца своей жизни, — сказал он, — то это единственная возможность осуществить такое желание.

Она повернулась в нему:

— Может быть, и так. Посмотрим. Но лучше потратить тысячу лет и сделать все правильно, чем десятилетие и добиться успеха вашими методами.

Глядя вслед уезжающему в туман такси, Дэниел заставил себя принять реальность: она никогда не передумает. Джули Дехгани была первой в его списке, идеальным сотрудником. И он не мог сделать вид, что не потерпел неудачу.

Но все же незаменимых нет. В какой бы восторг ни привело бы его согласие Джули, в его списке еще много других имен.

2

Запястье Дэниела защекотало — пришло сообщение. Он взглянул на циферблат часов и увидел зависшее над ним слово «УСПЕХ!»

Собрание совета директоров почти закончилось. Он вспомнил о самодисциплине и не позволил себе отвлечься еще десять минут. С помощью WiddulHands.com он заработал свой первый миллиард, и это все еще был превосходящий другие сайт социальной сети для детей возрастной группы до 3 лет. Прошло уже пятнадцать лет с тех пор, как он основал свою компанию, и ее деятельность развилась во многих направлениях, однако он не намеревался снять руки с рычагов управления.

Когда собрание закончилось, он выключил настенный экран и с полминуты расхаживал по пустой комнате для совещаний, поворачивая голову в стороны и разминая плечи. Затем произнес: «Люсьен».

На экране появился Люсьен Грейс.

— Значительный успех? — спросил Дэниел.

— Несомненно. — Люсьен пытался вежливо смотреть Дэниелу в глаза, но что-то упорно заставляло его отводить взгляд. Не дожидаясь объяснений, Дэниел сделал жест в сторону экрана и вывел на него то, что видел Люсьен.

Пустынный и каменистый ландшафт тянулся до самого горизонта. Среди камней ползали десятки крабообразных существ — некоторые темно-синие, другие кораллово-розовые, хотя сами существа эти цвета бы не увидели, то были просто маркеры видов, добавленные к изображению для его более легкой интерпретации. Пока Дэниел разглядывал пиджак, из пролетающего облака посыпались крупные капли едкого дождя. Здесь наверняка была самая унылая окружающая среда во всем Сапфире.

Во вложенном окне все еще виднелся Люсьен.

— Видишь тех синих возле кратерного озера? — спросил он и обвел нужный участок изображения, чтобы указать его Дэниелу.

— Да.

Пятеро синих собрались вокруг одинокого розового. Дэниел снова сделал жест, и нужный участок приблизился. Синие вскрыли тело своего пленника, но тот не был мертв; Дэниел был в этом уверен, потому что розовые недавно обрели способность превращать свои тела в кашу сразу после «смерти».

вернуться

58

Пари Паскаля — предложенный математиком и философом Блезом Паскалем аргумент для демонстрации рациональности религиозной веры: безверие ничего не требует от человека и ничего ему не дает (если не считать некоторой экономии времени). «Проигрыш» при этом может оказаться существенным. Верить чуть более затруднительно, но не опасно и «выигрыш» велик.

90
{"b":"214122","o":1}