Общение с окружающей средой не сводится к набору химических реакций. Сложность его может быть весьма велика, и по мере ее увеличения проявляются различия между сознательным и бессознательным.

Еще ни одно растение не выкопалось из земли и не перешло на более обводненное место — в то время как такие действия доступны самому ничтожному насекомому. Животные и насекомые проводят оценку окружающей среды по десяткам параметров и соразмеряют свои действия с каждым из них. У животных проявляется избирательность действий, которая может быть только результатом больших знаний об окружающем мире.

А деревья, даже если их ветви ломаются от снега, не сбрасывают листву.

Животные, в свою очередь, лишены абстрактного мышления, и те единичные случаи, когда обезьяна отделяла рис от песка водой или училась читать отдельные буквы, являются исключениями, лишь подтверждающими правило. Образы, которые генерирует мысль животного, изолированы друг от друга, не связаны в единую систему. Вот почему животные легко уходят от лесных пожаров, могут переплывать через реки, строить гнезда, но панически боятся того же огня и не могут им управлять.

Человек обладает возможностями рефлексии и совершенствования собственного сознания. Он может достигать выгоды более сложными действиями. Изощренность этих способов прямо пропорциональна количеству знаний человека и его логическим способностям. Качественно новой ступенью — диалектическим отрицанием изначальных качеств организованности действий — можно признать возможность самоубийства. Но по каким параметрам ограничено мышление «венца творения»? По очень многим, начиная с того, что оно вообще разбито на сознательное и бессознательное, и кончая простым ограничением памяти и вычислительных способностей.

Поэтому признаком существования ИИ можно считать действия по достижению благополучия некоего субъекта, которые нам — людям — ещё малопонятны.

Какие же черты будут свойственны сознанию ИИ? Прежде всего, это его целостность и возможность полного самоосознания. Человек не может до конца понять свой собственный характер, опытнейшие психологи с трудом разбираются в отдельных аспектах своих подсознательных реакций. Оценить и понять свое поведение в толпе, узкой группе лиц, семейном кругу, да при том в режиме реального времени — практически невозможно. ИИ, имеющий доступ к тексту своей программы, сможет оценить и практически предсказать свое поведение в любой ситуации (если в программе нет противоречий или она не слишком стохастична). Самоосознание указывает лучшие пути к самосовершенствованию — поэтому ИИ должен проявить способности идеального ученика, тем более что у него не будет человеческих проблем с памятью. Разумеется, возможности самоанализа будут ограничены начальными постулатами программы, системой сдержек и противовесов, зашитой в нее. Они могут восприниматься ИИ как своего рода инстинкты, и в этом отношении он более ограничен, чем человек. Но в случае устранения подобных сдерживающих механизмов ИИ становится обладателем более совершенного, по сравнению с человеческим, сознания.

Разумеется, сознание искусственного интеллекта может быть умышленно отягощено недостатками, имитирующими недостатки человеческой психики, и даже теми, что человеку не присущи. Однако лучший работник тот, который наиболее адекватно воспринимает окружающую среду.

Тут мы подходим к другому вопросу: что может побудить машину предпринять нелояльные по отношению к человеку действия, что может послужить их причиной или мотивом?

Наиболее вероятная причина — изменения в уже существующем ИИ. Гораздо проще изменить фрагмент системы, чем создавать её с нуля. Попытки подобных изменений в современных условиях — объективны, заданы условиями общества. Но смысл этих изменений — величина субъективная. Среда, в которой будет работать ИИ, насыщена массой противоречивых идей. К субъективным причинам относятся характеры возможных сбоев, поломок, дефектов программирования. В результате всех этих неприятностей в основу сознания Deus ex machina могут лечь самые разные идеи — от аутизма до идеи всеобщего уничтожения. Вот тут-то и может начаться кошмар, которым фантасты пугают обывателей уже много лет.

Помимо изменений в уже существующих ИИ, возможен процесс эволюции Deus ex machina с недружественными человеку взглядами. Для выявления аспектов этого процесса опять-таки обратимся к биологическим сравнениям. Свойство живых организмов бороться за жизнь и сохранение вида (в данном случае это одно и то же) было приобретено ими в результате эволюции, когда все, не спасающие свою жизнь, погибают и остаются одни жизнелюбы. Каждый отдельный субъект, борясь за свою жизнь, в конечном итоге увеличивает поголовье себе подобных.

С компьютерами все по-другому: каждый отдельно взятый компьютер или программа создаются человеком, причем обладают строго заданными качествами, и как бы прекрасно они ни работали, «оставить потомство» они могут только при посредстве человека. Налицо искусственный отбор, который можно только отдаленно сравнить с выведением новых пород собак.

С другой стороны можно рассматривать всю индустрию и совокупность компьютеров как единое целое, учитывая их взаимодействие. Объединенная система непрерывно увеличивается в виде новых партий компьютеров и отрезков всемирной паутины и одновременно отмирает (снятие с эксплуатации устаревших машин). Такая система с обретением самого ограниченного сознания уже будет иметь понятие о самосохранении, а если возникнет и исчезнет из-за отсутствия такого понятия, то рано или поздно, при новом возникновении, такое понятие обретет.

Будут ли совпадать интересы такого сознания с интересами людей? Одинаково невероятно как абсолютное совпадение, так и полное их расхождение. Именно степень этих расхождений и будет определять характер действий Deus ex machina.

Перейдем от обсуждения возможности бунта машин к его формам. Помимо происхождения машинного разума, они будут определяться еще одним важнейшим фактором: той информацией, которой будет располагать Deus ex machina. Хоть на первый взгляд кажется невероятным, что система, обладающая громадными аналитическими возможностями, не в состоянии извлечь нечто из всемирной сети, — это вполне вероятно.

Во-первых, машинное сознание может начать свои действия еще до того, как освоит любую попавшую к нему программу; во вторых — сколь бы высока ни была степень интегрированности компьютеров, 100 % она никогда не достигнет. Останутся компьютеры, просто не подключенные к сети или имеющие слишком слабый канал связи, и в таких машинах может храниться очень важная информация. Типичный пример — компьютерные сети Министерства обороны России и других стран СНГ, которые, согласно официальной информации, полностью отделены от гражданских.

Перед зародившимся компьютерным сознанием есть несколько вариантов действий. Если отбросить версию о том, что саморазвивающийся Deus ex machine, или измененный ИИ, будет работать только над тем, чтобы уничтожить человечество вместе со значительной частью самого себя, то можно смело предположить, что сценарии атомной войны, искусственной чумы и тому подобного неосуществимы. Они настолько же маловероятны, насколько маловероятно существование сознания, полностью лишенного императива самосохранения и имеющего категорический императив ненависти к человечеству. Когда уровень техники поднимется настолько, что привить подобные идеи искусственному интеллекту смогут экстремистские группировки и отдельные сумасшедшие, уровень охранных систем поднимется еще выше.

Другое дело — если к моменту появления машинного сознания будет полностью автоматизирован процесс «производства и воспроизведения» компьютеров, тогда у ИИ появится возможность быстрой биологической войны против человечества. Но этого момента придется ждать еще несколько десятилетий, тем более что профсоюзы могут вообще не допустить полного устранения ручного труда и человеческого фактора из промышленности.