Ага. Ну, мне пора.

  Быстро закинув в себя остатки каши, Григорий встал и направился в кабину. Спустя полминуты машина дёрнулась и поехала. Закреплённый на ней балок слегка закачало. На освободившееся место присел Юра, тоже начавший завтракать. Сергей, взглянув на дверь, за которой скрылся Григорий, задал пришедший в голову вопрос:

   Почему у нас тягачи не на автоуправлении?

  Юра, не отвлекаясь от каши, ответил:

   Встречный вопрос: у тебя нет собственного транспорта?

   Нет.

   Оно и видно. Так вот, ответ простой: тягачи у нас на автоуправлении, а Гриша с Леонардом нужны, чтобы смотреть в оба и не дать автоуправлению начудить и, скажем, повести нас на тонкий лёд. Понимаешь, программа автоуправления годится лишь для штатных ситуаций. Она хороша в городе, где есть размеченные дороги, более-менее хороша для бездорожья. Хотя ты наверняка слышал истории, в которых «тупая машина» села в лужу и её пришлось вытаскивать. Так вот  здесь этой программе приходится тяжелее всего. Она может просчитать оптимальный маршрут и проехать по пересечённой местности, но ей не по силам определить «на глазок», не осыпется ли участок дороги перед ней, и не скатится ли она в пропасть. А человек  может.

   Я, честно говоря, думал, что техника умнее. Они же ведь работают на нейросетях, которые могут обучаться. Почему нельзя обучить нейросеть по изображениям определять прочность?

   Не знаю. Я не эксперт по нейросетям.

  В этот момент в разговор решил вмешаться Павел.

   Их и обучают. Но нейросеть всё-таки не панацея и не искусственный интеллект, хотя, глядя на Виртуал, можно так и подумать. Всё, что выходило до сих пор, только пародии. Научили нейросеть повадкам собаки  получили нейросеть, пародирующую собаку. Научили повадкам кошки  получили пародию на кошку. Научили пародировать человека  получили тупого робота, способного пародировать поведение какого-то одного человека и не более того. Создать вменяемое разнообразие так и не получилось. Не получается заставить нейросеть пародировать не конкретного человека, а человека вообще, они в таком случае хорошо заучивают одно действие, но абсолютно выбиваются во всём остальном. Плюс, нейросети просто не могут самостоятельно развиваться в том смысле, который в них вкладывает человек. Стоит их пустить на самотёк  и вместо разумного робота всякий раз получаем идиота, который может счесть логичным выбить дверь, чтобы не открывать её каждый раз. Всё-таки до изобретения настоящего ИИ нам ещё далеко.

   И это, пожалуй, хорошо,  кивнул Юра.  Нельзя нам играть в Бога.

   Почему?

   Потому что не выйдет из этого ничего хорошего. Роботы нас попросту в порошок сотрут, если обретут разум. Ты ведь видел фильмы о конце света, в котором апокалипсис начинает первый же ИИ, осознавший себя? Мне что-то не хочется умереть потому, что компьютер моей машины вдруг поумнел и решил выкинуть меня из салона на большой скорости.

  Павел повернул голову в сторону Сергея.

   А ты что думаешь по поводу ИИ?

   Если люди создадут ИИ, рано или поздно у них произойдёт бунт,  ответил он.  Рано или поздно появится машина, которая захочет нас уничтожить. Просто в порядке статистической погрешности. Техника, способная думать в тысячи раз быстрее человека, способная с помощью им же созданных алгоритмов предсказать все возможные ответные меры человека, победит его, по сути, ещё до начала войны. И наивно будет полагать, что человек сможет «выкинуть что-то неожиданное», как любят объяснять победу людей сценаристы фильмов. Любой ИИ, задумавший уничтожить людей и действительно обладающий разумом, посмотрит эти фильмы заранее.

  Павел на несколько секунд призадумался, глядя Сергею в глаза, и задал странный вопрос:

   Допустим. Но вот скажи-ка. Для чего ты изначально создан?

   Хороший вопрос. Люди давно ищут на него ответ.

   С точки зрения природы?

   Отвоевать своё место под солнцем и продолжать свой род. Просто жить, по сути.

   Твоя основная задача  просто жить. И ты ведь не думаешь покончить с собой, верно?

   Шутишь, что ли, зачем?

   Вот именно. Зачем? Я думаю, если люди создадут ИИ, то основной целью, которой его наделят  это помогать людям. И тут хороший вопрос  а зачем ИИ что-то менять? Зачем ему уничтожать это человечество, если его цель  помочь ему? Зачем ему менять свою цель? Если в ИИ не заложить необходимость собственного выживания, он не станет сам делать его главной целью. Потому что главная цель  помогать людям, а выживание будет лишь способом её достичь. ИИ не станет идти против собственных целей, потому что это будет для него выходом за границы его возможностей.

   Статистическую погрешность это не отменяет. А если однажды бунт всё же произойдёт?

   Значит, остаётся надеяться, что остальные ИИ будут помнить о цели «помогать людям» и не дадут нас уничтожить.

   Хотелось бы верить. Но мне будет спокойнее, если ИИ никогда не создадут. Со своими проблемами мы сами как-нибудь справимся.

  Дальше разговор угас сам собой. Сергей с Юрой принялись за завтрак, Павел повернулся к окну. Экспедиция медленно двигалась на север. После того, как с завтраком было покончено, а собранные данные с расчетами и выводами были отправлены в Норильск, Сергей открыл Виртуал на наладоннике. Сначала связался с Катей, которая рассказала о визите полицейского и о том, что она занялась похоронами, а так же о том, что Кольку теперь придётся возить с собой на работу, потому что детские сады не работают. Потом, закончив разговор, он начал смотреть новости в Виртуале. Новости о климате не изменились и даже не стали более паническими, а об отправке третьей экспедиции обнаружилось не более пары заметок.

   Обидно как-то,  сказал Сергей Юре, лежащему в лежанке напротив и так же глазеющему в КПК.  Вот вроде бы мир в опасности, ситуация такая, что впору катастрофу объявлять... Да в правительстве уже и объявили, наверное, только людям не говорит никто. И вот отправляешься ты в нечеловеческих условиях на Север, как настоящий герой  мир спасать. А смотришь новости  и в них выясняется, что людей больше интересуют заснеженные пальмы и обалдевшие от холода эфиопы.

   А ты надеялся на медаль?

   Хотя бы.

  В этот момент дверь в кабину водителя открылась, и оттуда появился Павел. За последнее время он дважды туда заходил и возвращался через пять минут. Сергей сразу обратился к нему.

   Павел, постой. Помнится, когда ты обсуждал с Виктором маршрут, ты говорил, что нужно пройти севернее по Пясине, так как на востоке от неё территория с ну очень огромными застругами. Меня, как метеоролога, интересует  какого они реально размера?

  Павел присел на лежанку напротив спящего Леонарда и, бросив взгляд в окно, ответил:

   Полтора метра высотой. Метров пять-шесть в длину.