Введение кибернетической автоматизации влечет за собой довольно неожиданные моральные проблемы. Стаффорд Бир[102], один из пионеров в области кибернетизации больших капиталистических предприятий, постулировал возможность создания «фирмы-гомеостата» и в качестве примера рассмотрел теорию регулирования деятельности большого сталелитейного производства. «Мозг» такого предприятия должен так оптимизировать все процессы, из которых складывается выплавка стали, чтобы производство было наиболее продуктивным, эффективным и независимым как от колебаний предложения (рабочей силы, руды, угля и т. д.) и спроса, так и от внутренних изменений в системе (неравномерность процесса производства, нежелательный рост себестоимости изделий). Согласно представлениям Бира, такая производственная единица должна быть ультрастабильным гомеостатом, который немедленно реагирует на всякое отклонение от равновесия изменением внутренней организации и тем самым возвращается к равновесию. Оппоненты-специалисты, которым эта теоретическая модель была представлена, обратили внимание на то, что ей недостает «религии». Бир сознательно смоделировал это предприятие-гомеостат по принципу действия живого организма. Но в природе единственным, по существу, критерием «ценности» организма является его способность к выживанию любой ценой. Иначе говоря, при случае также и ценой пожирания других организмов. Натуралист, понимая, что в Природе не существует «системы моральных оценок», не считает поведение голодных хищников аморальным. Таким образом, возникает вопрос: «может ли», то есть «имеет ли право» «организм-предприятие» в случае нужды «пожирать» своих конкурентов? Имеется много таких вопросов, правда, возможно, не столь острых. К чему должно стремиться такое гомеостатическое предприятие – к максимальной производительности или к максимальной прибыли? А что, если с ходом времени неизбежные технологические сдвиги сделают производство стали ненужным? Должна ли «тенденция к выживанию», вмонтированная в «мозг» такой производственной системы, привести к ее полной перестройке, так чтобы, например, она сама преобразовала себя в производителя пластмасс?[103] Чем должна руководствоваться такая система при подобной плотной реорганизации – степенью максимальной общественной полезности? Или опять-таки величиной прибыли?

Бир избегает ответов на подобные вопросы. Он говорит, что над «мозгом» предприятия стоит еще наблюдательный совет владельцев, который и принимает самые общие и важные решения. «Мозг» призван только оптимально реализовывать эти решения. Тем самым Бир отрекается от «автономно-организменного» принципа, входящего в его концепцию, и выносит все моральные проблемы за пределы «черного ящика»: в сферу деятельности наблюдательного совета. Но это только кажущийся выход. «Черный ящик», даже ограниченный таким способом, все равно будет принимать решения морального характера, например, при увольнении рабочих или снижении заработной платы, коль скоро этого потребует принцип оптимального функционирования предприятия как целого. Легко представить себе также, что предприятие-гомеостат Бира может вступить в «борьбу за существование» с другими предприятиями, которые спроектированы кибернетиками, состоящими на службе у других корпораций. Либо все эти машины будут настолько ограничены в своей деятельности, что им придется непрестанно обращаться за решением к «менеджеру»-человеку (например, запрашивать его, скажем, о том, можно ли сокрушить конкурента, если подвернулся случай), либо же их деятельность, обремененная моральными последствиями, будет расширяться. В первом случае нарушается основной принцип саморегуляции гомеостата-производителя. Во втором случае гомеостаты начнут оказывать на судьбу людей влияние, очень часто непредвиденное их творцами, и дело может дойти до краха экономики страны в целом просто потому, что какой-то из гомеостатов слишком хорошо справляется с порученным ему делом, сметая всех своих конкурентов.

Почему в первом случае оказывается нарушенным принцип действия «черного ящика»? Потому что такой «ящик», такой регулятор нисколько не похож на человека – в том смысле, что ему нельзя задавать вопросы об общественных последствиях принимаемых им на каждом этапе решений и ожидать, что он сможет ответить на эти вопросы. Кстати говоря, даже человек-«менеджер» зачастую не знает этих отдаленных результатов своей деятельности. «Черный ящик», который должен «помочь выжить» предприятию, реагируя на всевозможные флуктуации «входов» (цены на уголь, руду, машины, зарплату) и «выходов» (рыночных цен на сталь, спроса на различные ее сорта), и «черный ящик», который к тому же учитывал бы интересы рабочих, а может быть, даже и конкурентов, – это два совсем разных устройства. Первое как производитель будет эффективнее второго. Вред, который гомеостаты наносят рабочим, можно, разумеется, ограничить, введя в исходную программу (в «аксиоматическое ядро» поведения) статьи трудового законодательства, обязательного для всех выступающих на рынке производителей; но тем самым может быть увеличен вред для конкурирующих фирм или производителей стали в других странах. Однако самое важное состоит в том, что «черный ящик» не знает, когда именно он действует во вред кому-то, и от него нельзя требовать, чтобы он информировал людей о таких последствиях принимаемых им решений; ведь ex definitione[104] никто из людей, в том числе и конструктор-проектировщик, не знает его внутренних состояний. Внедрение гомеостатических регуляторов приводит к последствиям такого рода. Их-то и имел в виду Норберт Винер[105], когда в новом издании своего основополагающего труда «Кибернетика» посвятил отдельную главу непредвиденным результатам деятельности гомеостатов. Могло бы показаться, что опасность такого рода можно устранить в зародыше, создав «черный ящик» высшего типа в качестве «машины для управления», но не людьми, а подчиненными ей «черными ящиками» отдельных производителей. Последствия такого шага оказываются чрезвычайно интересными.

ИТАК, стремясь избежать общественно вредных результатов, к которым приводит деятельность «черных ящиков» в качестве регуляторов отдельных производственных единиц, мы возводим на трон экономической власти Черный ящик – Регулятор наивысшего ранга. Предположим, что он ограничивает свободу производственных регуляторов и неким программированием, равносильным законодательству, заставляет их соблюдать законы о труде, быть лояльным по отношению к конкурентам, стремиться ликвидировать резервную армию труда (то есть безработицу) и так далее. Возможно ли это? Теоретически – да. На практике, однако, такое программирование обременено огромным числом, мягко говоря, «неувязок».

Черный ящик, как очень сложная система, не поддается описанию; алгоритм его никому не известен и не может быть известен, его действия носят вероятностный характер, и, значит, поставленный дважды в одну и ту же ситуацию, он вовсе не обязан поступать одинаково. Кроме того – и это, наверное, самое важное, – Черный ящик есть машина, которая учится на собственных ошибках в процессе предпринимаемых ею конкретных действий. Из самых основ кибернетики следует, что Властелин Экономики – Черный ящик, который был бы заранее всеведущ и умел бы предвидеть все последствия принимаемых им решений, построен быть не может. Лишь с течением времени регулятор будет приближаться к этому идеалу. Как быстро – этого мы определить не умеем. Быть может, он сначала подвергнет государство целой серии ужасных кризисов, из которых постепенно его выведет. Быть может, он заявит, что между аксиомами, введенными в Программу действия, существует противоречие (например, невозможно проводить экономически рентабельную автоматизацию производственных процессов и одновременно стремиться к уменьшению безработицы, если параллельно не будет проводиться множество иных мероприятий, вроде субсидируемого государством или капиталом переобучения лиц, потерявших работу, и т. п.)[106]. Что тогда? Трудно вдаваться в детальный анализ столь сложной проблемы. Можно только сказать: Черный ящик, будь то регулятор производства в одном из его звеньев или же универсальный регулятор в масштабах всего государства, всегда действует при неполном знании. Иначе и быть не может. Допустим, что, проделав много проб и совершив много ошибок, сделав при этом несчастными миллионы людей, Черный ящик – Властелин Экономики – приобретет огромные знания, неизмеримо большие, чем знания всех буржуазных экономистов, вместе взятых. Но даже и тогда никто не может поручиться, что очередную порожденную новыми причинами флуктуацию он не попытается ликвидировать такими методами, от которых у всех, не исключая и его создателей, зашевелятся волосы. Рассмотрим такую возможность на конкретном примере.