— А как же Три закона роботехники?
— Хорошо, ну вот пускай андроид пойдёт пешком, скажем в пункт Б. У него появятся цели для решения — заряд батареи, саморемонт, отбиться от бандосов. И вот как он будет её решать, если в него не заложить Три закона робототехники: ему надо пополнять батарею, он на одной заправке попросит розетку, ему, например, откажут, потом на второй откажут, на третьей он скажет: «Да вы охренели?» и начнёт выпиливать человеков.
Вацлав улыбнулся, ему нравилось слушать своего собеседника и доводы, которые он приводил.
— Ведь заряд батареи исчерпывается стремительно. А когда тот кончится, он провалит задачу.
— Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам, — процитировал капитан третий закон. — А первый закон: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
— В фильмах фигурирует множество обходных путей, ты не заметил? Таким образом все это явно показывает, что искусственному интеллекту придется все разъяснять в мельчайших деталях.
Но затем пришел Юхельссон, и разговор принял более оживленный темп. Если с Александром это выглядело как обсуждение, то с Ильей — больше спором. Соколовскому пришлось покинуть компанию, отойдя по своим делам, с сожалением пропуская дебаты. Остальные же внимательно слушали, и, казалось, забавлялись всем происходящим.
— Глупые ты вопросы спрашиваешь и ответы из пальца высасываешь, — отрезал Кристиан. — В том же Эффекте Атома разграничивалось понятие искусственный интеллект и виртуальный интеллект. Первый был всегда под запретом. Ибо создание ИИ приравнивалось к созданию в первую очередь личности, которая эмоциональна, чувствует и обучается. ВИ настроен только на выполнение определенных задач, способен действовать лишь в указанной сфере деятельности, не обучается и не обладает самосознанием. Вспомнить даже с чего началось восстание синтетиков: один из роботов поинтересовался, есть ли у него душа и какая цель его существования. Ничего не напоминает? Поэтому к полноценному ИИ следует относится как к личности в первую очередь. Со своими чувствами, мыслями и страхами. А уже потом как к искусственно созданному роботу. Хотя в его глазах процесс создания себе подобных может быть абсолютно естественным, как для человека рождение.
— ИИ с эмоциями и чувствами? — Вацлав вопросительно изогнул бровь. — Я пока схожусь на мнении, что это может быть имитация как таковых. И показывается это в нужные моменты настолько своевременно, что будто у них есть эмоции и чувства. ИИ, ВИ, еще кто-то там — в наших реалиях есть только ИИ. Допустим, целый завод с ИИ, настроенный только на строение кораблей. Ему дается задание их делать и он там варится в этом котле. Так что к ИИ как личности относиться нельзя лишь по той причине, что, как вот сказал Сашка: дай ты ему границу «работать только в рамках задачи N» и он будет видеть границы только в ней. НО, дай ты ему волю и начнутся общечеловеческие вопросы. ИИ на то и ИИ. Его интеллект с привкусом металла.
— Тогда мы говорим о разных вещах, — пожал плечами Юхельссон. Он скрестил руки на груди, деловито рассевшись на стуле напротив своего оппонента. — Ты хочешь задать программу с законами. Это не ИИ. Не полноценный ИИ. Смысла в вопросе нету тогда. Как только полноценный ИИ получает физическую оболочку — он становится личностью. Все, что отличается от личности, лишь программа. И не важно каким кодом прописана: генетическим или виртуальным. А Три закона — это гребаная чушь. Тебя может тупо убить на том заводе. Робот, который машины собирает, к примеру. И как только это спишется на несчастный случай, законы твои пошли по накатанной.
— Начнем с того, что роботы и делаются для работы. Ты же не думаешь, что человеку нужны еще какие-то личности, когда нас и самих много? Работа на заводах, колонизация — как пример самой простой работы. А если это комплексные решения? Возьмем тот же завод с кораблями, где вместо условного начальника у них ИИ, а все остальные механизмы делают машины. Человеком только задаются данные, без всех деталей, только настройки. Всякий цвет, размер, форма. И не путай человека, который по глупости полез под какой-нибудь пресс. И ИИ, который делал корабли, а затем решил сделать роботов и захватить человеков!
— Да ИИ это не робот. Это интеллект в первую очередь! Который превосходит человека во всем. И даже в самосознании, — Флён уже привык к таким дерзким заявлением друга, поэтому никак не воспринял его слова. — И как только он сделает себе физическую оболочку — это полноценная личность!
— До той поры, пока у него есть границы в своей песочнице, это не может ничего превосходить, — капитан приподнял палец.
— Роботам ты можешь прописать законы. Сможешь, — Илья кивнул. — Но не ИИ.
— Можно и ИИ, — парировал Вацлав. — Это, в первую очередь, машина.
— Который себя осознает и осознает свое превосходство. А иначе значит это не ИИ. Это робот. Обычная банка с программой. Робот не обладает моралью, ИИ может посредством обучаемости ее приобрести.
— Ну такого ИИ нет и вряд ли предвидится, — махнул рукой Филин.
— Согласен, да, у нас нету таких мощностей. Тем не менее ИИ универсален. Все что говорит Вац, это применимо к роботам. Не к ИИ. ИИ не равно робот.
— Но ведь ИИ и робот это… — Дмитрий наигранно призадумался. — ИИ в роботе.
— Ну еще раз, — продолжил уже Вацлав. — Вот надо ли человеку еще какую-то личность себе создавать? Нет, посему ИИ создается как рабочий.
Обсуждение встало на одной точке. Юхельссоном был ярым сторонником идеи азуресов и считал големов с их искусственным интеллектом тем, что должно было быть в идеале у человека. Вацлав соглашался с этим, но вновь парировал тем, что для человека робот как личность нужна в рамках достижения цели, а не массового производства. Азуресы созидали новую жизнь — это подтвердила и Софья — в Ронуме же, как показывала индустриальная история человечества, требовались рабочие. По логике Ильи же и Аврора выходила далеко не ИИ, ибо имела ограничения. И все же видимо Флён несколько путал роботов с их запрограммированным интеллектом и ИИ уровня големов.
* * *
Когда корабль вернулся из гиперпространства, то перед ним представилась обильная зеленью планета. Уже знакомая некоторым, команда вновь вернулась сюда, уже с новой миссией, а остальные члены звена уже двигались к орбите планеты — Фрейя прибыла вовремя. Вацлав немедля направил фрегат к остальным, связываясь с Сольбано для планирования дальнейших действий.
Тем временем Медузовый полуостров был виден уже с их позиции. Земля обрамленная Сапфировым морем из-за своего сочного синего цвета, и предоставляющая только один узкий выход, всего шестьдесят четыре километра, на материк.
— Группируемся по заданным координатам, — говорил Сольбано, а в пространстве для Вацлава уже отметился указатель. Голос Салливана в очередной раз был пропитан апатичностью. — По команде мы начнем погружение в атмосферу планеты.
Перед глазами появилась карта города с отметкой здания с так называемым центральным узлом; с различными пометками той или иной информации. Присмотревшись к ним, Флён отдал приказ выделить на задание две дюжины ракет, хотя рассчитывал обойтись одними турелями. Пока он планировал, капитан заметил поблизости корабль «Молот Тора», один из самых смертоносных боевых кораблей специального назначения из всех, когда либо созданных, вооруженный ионной пушкой. Её чудовищная мощь была способна пронзать корабли, как копье, но из-за монолитной конструкции, Молоты Тора всегда сопровождались перехватчиками.
— Капитан, мы получаем передачу с поверхности. Вывожу на экран, — отчитался Соколовский.
Появился круг, внутри которого хитросплетениями вырисовывался странный символ, после чего он сменился на изображение неизвестного, скрытого под формой. Под плотным плащом и незнакомой респираторной маской, чьи трубки уходили вниз за границы видимости, восседал не то машина, не то человек, а на заднем фоне виднелся огромный зал, чем-то похожий на ангар, но лишенный летательных аппаратов.
