Точку в этой дилемме поставила битва при Павии. Великолепные французские рыцари были попросту расстреляны крестьянами, из которых вчера сделали солдат и вооружили мушкетами. Французский король попал в том сражении в плен и сказал: потеряно все, кроме чести.
Выбор между честью с мечом и бесчестьем с ружьем превратился в выбор между жизнью и смертью. Победила жизнь. Рыцари скорректировали мораль под новые реалии. Они сняли доспехи, отложили мечи в сторону, надели мундиры и взяли в руки ружья. Война вышла на новый виток.
Дольше всех верность мечу и традиции хранили японские рыцари – самураи. Чтобы никакие новшества революционной Европы не сбили их с пути, они приняли закон, по которому всякий иностранный корабль, причаливший к берегам Японии, подлежал конфискации, а экипаж смерти.
С XVII по XIX век страна застыла в средневековье. В XIX веке в дело вмешалась политика. Когда Америке стало очевидно, что вопрос времени, когда Россия подомнет под себя Японию, а это нарушит баланс сил, она решила заставить средневековую Японию стать индустриальной.
С этой целью в 1854 году к берегам страны восходящего Солнца подплыли военные корабли и дали залп. Далее под угрозой обстрела столицы принудили власти снять самоизоляцию. Так как меч беспомощен против пушек, Япония была вынуждена подчиниться Америке и открыться.
Закон жизни: эффективное вытесняет неэффективное. Огнестрельное оружие эффективнее холодного по всем параметрам, и потому у армии не было шанса отказаться от ружья в пользу меча. Кто отказывался подчиниться ходу истории, того подчинял тот, кто не отказывался.
ИИ сильнее человека по всем физическим и интеллектуальным параметрам. Он выдерживает нагрузки, невозможные для живого организма. Он охватывает объем информации, недоступный человеку. Он анализирует ситуацию и принимает решения с немыслимой скоростью.
При прочих равных самолет, пилотируемый ИИ, со 100%-й гарантией победит самолет, где за штурвалом человек. Если одному оружию, например, дрону, нужно разрешение оператора на убийство, а другой принимает решение по ситуации самостоятельно, второй эффективнее первого.
Как ружье вытеснило меч, так ИИ вытеснит человека не только из войны, но из всех сфер, от политики и экономики до творчества, бизнеса и бытовой сферы. Обращаю внимание, никто никого не будет ни к чему принуждать. Каждый волен отказаться от услуг ИИ, и на свой ум полагаться.
Если мастер по шахматам играет с новичком, который вчера выучил правила игры, но ИИ ему ходы подсказывает, а мастер на себя полагается, выиграет новичок. Если один политик, полководец или бизнесмен сам думает, а его оппонент на ИИ полагается, выиграет тот, за кого ИИ думает.
Этот факт превращает человека в исполнителя решений ИИ. Насколько незаметно, настолько и неизбежно власть в перспективе перейдет от человека к ИИ. Гомо сапиенс с каждым годом будет слабее, а ИИ сильнее. Изменить тенденцию невозможно. Сильный в итоге подчинит слабого.
Зажим
Всякая власть стремится обеспечить соблюдение закона. Достигается это страхом наказания. Чем неизбежнее наказание, тем меньше преступлений. Неизбежность пропорциональна степени прозрачности общества. Максимальная прозрачность гарантирует минимальную преступность.
Вчера прозрачность достигалась паспортами, цензурой, доносами и прочее. Сегодня к этому добавились камеры наблюдения, монторинг личной переписки и другие новшества. Но полной прозрачности никогда не было. Если ИИ станет властью, он станет всеведущим как Бог.
В природу эволюции существующей системы вшит тренд на увеличение прозрачности. Не за горами тот день, когда возникнут условия, вынуждающие иметь в мозгу чип, как сейчас паспорт. Без этого человек будет недееспособен, как сегодня без паспорта. Может быть, это будет требованием закона. Может быть, условия будет толкать к добровольной чипизации. Не важно, как именно будет решен вопрос тотального контроля над обществом и человеком. Важно, что вопрос будет решен.
Всякое нововведение вызывает возмущение. Вчера возмущались введением паспортов, ИНН, видеокамер. Завтра будут возмущаться новыми инструментами контроля. Но так как они вписаны в природу социума и имеют рациональные основания, возмущение никогда не длится долго.
Когда появились уличные камеры видеонаблюдения, почтенная публика начала возмущаться усилением контроля над личностью. Власти ей сказали, что эта увеличивает безопасность общества в целом и личную безопасность каждого человека в частности. Сказать на это нечего, такой момент действительно есть, и возмущение улеглось. Камер становится все больше, но возмущения нуль.
Полностью прозрачное общество будет абсолютно законопослушным. Человек превратится в электричку, способную ехать только по рельсам. Свернуть в сторону при всем желании физически она не сможет. Максимум, сможет сойти с рельс, что означает полную утрату дееспособности. Теперь электричка будет абсолютно беспомощной лежать на боку, пока ее или опять не поставят на рельсы, или не отправят в металлолом по причине серьезных повреждений.
Показатель свободы – возможность выбора. Нет выбора – нет свободы. Идеальный порядок означает, что все объекты следуют заданным маршрутом также точно, как электроны крутятся вокруг ядра без возможности свернуть в сторону. Абсолютный порядок исключает свободу.
Когда ИИ получит власть, он приступит к установлению в обществе порядка, ориентируясь на максимально точное соблюдение закона. Человек в этой системе начнет лишаться своих свобод и прав. При установлении полного порядка он станет чем-то вроде шестеренки, т.е. исчезнет.
Тревога
Открытие атомной энергии было открытием новой сущности, до этого неизвестной человеку, и это вызывало тревогу. Например, физики боялись, что в результате атомного взрыва цепная реакция может охватить атмосферу, и планета станет одной большой атомной бомбой.
Появление Искусственного Интеллекта более тревожно. Атомная энергия хоть и была новой, но само понятие «энергия» было известно. С интеллектом в смысле сознание, все сложнее, так как у этих понятий нет четкого определения. Есть общие слова, чей смысл далеко не ушел от вульгарных материалистов XIX века, считавших, что мозг вырабатывает сознание, как печень желчь.
Сегодня на вопрос, что есть сознание и откуда берется мышление, отвечают в духе: его каким-то образом рождает мозг; или: оно в готовом виде уже где-то есть, и как-то проявляется в нашем мозгу. Объяснения уровня «как-то», «каким-то образом», «так устроила природа», ничем не отличаются от «так устроил Бог», «с божьей помощью» и «таинственным образом».
Отношение к таким «объяснениям» определяет не смысл, он у них одинаковый, «так устроила природа» ничем не отличаются от «так устроил Бог», а вид говорящего и его словарь. Если он одет в белый халат, имеет научную степень и говорит наукообразно, к его словам относятся серьезно. Если же говорящий одет в рясу или завернут в простыню и пользуется мистическим словарем, в его словах видят в лучшем случае проявление невежества, в худшем усматривают мракобесие.
Аналогичное отношение к прогнозам, связанным с ИИ. Если их говорит большой технический специалист, они воспринимаются серьезно. Если же у человека нет инженерных знаний, его мысли на эту тему в глазах публики выглядят словами домохозяйки, пространно рассуждающей о любви.
Люди согласятся, что из умения создавать оружие, не важно, меч выковать или возглавить создание атомной бомбы, не следует, что у оружейника есть понимание философии войны и он как Клаузевиц или Гарт военный теоретик, или что у него есть полководческие таланты и он является полководцем уровня Македонского или Суворова. Потому никому из членов военного Совета не приходило в голову пригласить, например, Калашникова, создателя автомата, чтобы он высказал свое мнение на тему военной стратегии. Ценность его мнение была бы на уровне домохозяйки.
