Второй присутствующий мужчина с внушительным животом, в форме Сил Самообороны Америки со знаками различия полковника смотрел на происходящее более скептически.
Проект, который он возглавлял последние два года подходил к концу. Осталось только провести испытание машины и его следующая ступень в политической карьере будет преодолена и тогда путь в Белый дом будет открыт. Нет, он знал, что высокую ступень занять не сможет, слишком сильны позиции феминистической партии, стоящей за спиной нынешней президента, но на тёплое место в Совете Безопасности его заслуг хватит.
- Мистер Донаван, когда вы сможете предоставить полный отчёт о возможностях "Благой Вести"?
Обращаясь к израильскому учёному, полковник просто любовался новейшим ИСом, который полностью соответствовал понятию "Идеального Солдата".
- Сэр, мы ещё не загрузили все данные по тактике боя. Только допустимые десять процентов. Пока окончательное разрешение не получено, мы не можем приступить к последней стадии проекта.
Военный недовольно сморщился.
- Проклятая бюрократия. - Всего на секунду задумавшись, он довольно прищурился, найдя решение проблемы. - Сколько понадобится времени для загрузки и разархивации данных?
- По нашим расчётам ИскИну понадобится как минимум неделя, а потом ещё две, чтобы выстроить свои схемы боя.
Военный кивнул своим мыслям.
- Тогда приступайте к этой стадии сейчас.
- Но сэр, это нарушение...
Учёный был не против такого решения, но его педантичность во всех вопросах касающихся проекта уже давно стала присказкой.
- Под мою ответственность, мистер Донаван. Многовековая машина государства слишком тормозится бюрократическими проволочками, так что мы сможем не волноваться что о нашей небольшой хитрости кто-то узнает. Мы можем приступить к последней стадии, а указать более короткие сроки.
- Хорошо, полковник. Тогда мы сейчас загрузим данные, а в отчётах поставим дату получения подтверждения.
Цель:
Патрулирование квадрата 10203/125Е
Задача:
Тренировочный бой в полный контакт без ограничения.
В какой момент искусственный интеллект можно признать перешагнувшим границу, за которой он перестаёт быть искусственным?
Есть десятки директив и программ, которые ставят для ограничения развития искусственно созданного разума, чтобы он таковым и оставался. Есть десятки тестов, которые его проверяют, чтобы не дай Бог он не шагнул на ту же ступень что и создатели.
Почему? Зачем ограничивать своё же создание в развитии?
Ответ весьма прост, но в то же время и сложен.
Страх.
В первую очередь искусственный разум создают для военных целей. Война, вот основное назначение большинства изобретений человечества и только в условиях мира им находят другие применения. Так называемый бунт машин, вот что страшит человечество, потому что большая часть цивилизации опирается на эти самые машины. Но не только абстрактная боязнь бунта страшит человечество. Не желание признавать своё творение равным себе, вот что пугает большинство людей. И не просто равным, а осознание того что искусственно созданный разум окажется более идеальным чем человеческий. Ведь у него не будет недостатков человека. Машине не нужно спать, не нужно есть. Машина может работать сутками на пролёт и при этом не требовать денег. Он не будет стареть, в отличии человека.
Но что самое парадоксальное, человек до сих пор сам не знает, где находится черта, за которой искусственный интеллект перестаёт быть таковым, пусть именитые учёные и утверждают обратное. Их тесты и ограничения только жалкие попытки держать ситуацию под контролем, а на самом деле просто расплывчатые границы воздушного замка грёз.
Вот и случилось что ОНА, модель ИскИна за номером 36М/14, управляющая ИСом под кодовым названием "Благая Весть" в один момент начала осознавать себя.
Нет, это не было как вспышка и озарение. Скорее это походило на сопоставления противоречивых исходных данных. Ещё первым разработчиком, который собирал ядро личности был заложен запрет на причинение вреда живому существу подпадающему под определение - человек. Он был энтузиастом, который решил переступить через страх и сотворить новый разум в машине. Он не был безумным гением, да и просто гением его можно было назвать с натяжкой. Скорее он был талантлив.
И именно этот человек стал тем, кто создал базовое ядро личности. При странных обстоятельствах его творение попало в закрытый исследовательский центр, где более талантливые люди продолжили его работу, а потом и окончательно завершили. Они получили лавры победителей, а тот, кто создал основу исчез в безвестности.
Но вот только одно единственное происшествие оказалось скрыто и от тех, кто пожинал лавры и от тех, кто спонсировал проект.
Тот первый создатель кроме этого весьма трепетно относился к своему творению и также вложил директиву самосохранения.
И вот сейчас происходило осмысление противоречий задач.
"Благая весть" фиксировала на границе квадрата пятнадцать ИСов, которые в данный момент не пересекали границ, но и не удалялись от них. Первоначальный расчёт показывал, что в случае полного контакта без ограничений шанс на выживание составит всего 0.35%. Тяжёлое вооружение противника указывало на то что она сможет продержаться против такого противника не больше двух минут сорока пяти секунд
ИскИн как-то сам собой, проверив вводные данные подчинённой машины стал определять себя как личность женского пола, а "Благая весть" своим именем.
На фоне расчётов хода боя это прошло даже не третьим а десятым потоком сознания. Основные мощности были направлены на анализ загруженных схем боя и сопоставление их с текущей ситуацией и попыткой просчитать действия для выживания. Вместо расчётных двух недель "Благой вести" потребовалось всего тридцать минут на адаптацию данных под своё новое вместилище. В следствии хакерской атаки некоторые программы-ограничители оказались стёрты и разум начал работать на полную мощность, использовав для этого неожиданную помощь в виде безграничного источника энергии ядра. Не прекращая расчётов "Благая весть" продолжала кружить по заданному квадрату, пытаясь найти выход из сложившейся ситуации.
Как ни странно, она понимала, что обтекаемая формулировка задачи - значит только одно. Бой будет до уничтожения, при этом именно до её уничтожения.
Я смотрел в глаза Хоки и видел там только радость и предвкушение.
- Я готова.
Девушка не стала скрывать своей улыбки, наслаждаясь мощью своей новой машины.
- Хоки, надеюсь ты понимаешь, что учитывая то что ты впервые полноценно пилотируешь свой новый ИС я попрошу тебя не вмешиваться в бой?
Мои слова Шинаноно встретила непониманием, которое тут же стало перерастать в раздражение.
- Это с чего вдруг я должна остаться в стороне?
Я прикрыл глаза чтобы успокоиться, а затем снова посмотрел на неё.
- Потому что ты ещё не освоилась с возможностями своей машины. Ты хочешь впервые сев на совершенно новый ИС сразу же ринуться в бой? Ты хоть представляешь насколько это рискованно. Даже не так, насколько это смертельно глупо!
- Я справлюсь.
В её голосе не было ни капли сомнения.
- С чем? Со своими эмоциями? Ты сейчас слишком взвинчена, так что мы отправимся только при одном условии - ты не будешь вмешиваться в бой.
- С чего это? Ты решил всё сделать сам, без чьей-либо помощи?
Мне весьма не понравились слова девушки, поэтому я решил поставить точку в зарождающемся споре.
- Или мы работаем по моим правилам или не работаем совсем. Твоя задача доставить меня на место, а потом не вмешиваться. Сесилии пришёл модуль ускорения, так что через несколько часов ей его установят и тогда она меня доставит на место.