Кибернетический фашизм

Одна из самых забавных утопий звучит так: хорошо бы люди создали искусственный интеллект, настолько мощный, что он сможет наилучшим образом обеспечить их экономические нужды. Так, в фантастическом романе Михаила Ахманова "Ливиец" у каждого человека есть могучие слуги, роботы, способные по его приказу воздвигнуть для него дворец или даже преобразовать любую планету в любом уголке галактики. Заманчиво, конечно. Например потому, что ни один человек в сущности уже не нуждается в других, а владеет машинами, которые способны обеспечить ему практически безграничные возможности потребления. В таком мире он вступает в контакты с другими лишь когда захочет сам, а может и не захотеть. Это больше всего привлекает в данной утопии асоциальных невротических личностей. Как говорил один мой знакомый - я хочу личный остров, огороженный пулеметами.

Увы, современное человечество не контролирует космос и не располагает настолько мощными технологиями. Количество ресурсов, которые оно располагает, ограниченно. Невозможно построить для каждого желающего даже какой-нибудь там паршивый замок в мавританском или готическом стиле, обсерваторию и небольшой скромный шатл для орбитальных полетов. Пока ресурсы, коими располагает человечество, сравнительно не велики и ограничены, людям приходится коллективно организовывать производство и потребление ограниченных ресурсов.

Это и есть главная задача экономики - как наладить совместную работу людей в плане производства и распределения в системе с ограниченными ресурсами. Они вынуждены ее решать совместно и путем коллективного труда, ибо никто не обладает Рогом Изобилия. Решить задачу распределения ограниченных ресурсов можно разными способами. Анархизм или либертарный социализм преполагают коллективное решение этих вопросов методами прямой демократии в кооперативах, самоуправляющихся автономных коммунах и их объединениям \ конфедерациях (реализовать свою утопию они предполагают методами прямого действия). Сторонники большевизма хотят, чтобы решения принимались государственными чиновникамии - бюрократическим аппаратом. Любители капитализма предлагают возложить принятие решений на собственников и менеджмент корпораций. В двух последних случаях решения о производстве товаров и, в значительной мере, об их распределении, принимает малое меньшинство общества - владельцы компаний или госчиновники. Они принимают производственные решения и выплачивают зарплату работникам (в крайней варианте большевизма определяют пайки работников). В целом, человечество последние 200 лет колеблется между этими тремя вариантами.

Сторонники кибернетической утопии предполагают передать функции производства и распределения искуственному интелекту. Он сам все сделает. Но возникают две проблемы.

Во-первых, искусственый интеллект не сможет удовлетворить любые потребности любого человека по щелчку пальца, как в книге Ахманова - нет таких технологий. Значит ему придется решать, какие потребности (и какого человека), удовлетворять, а какие - нет. Снова все упирается в проблему ограниченности ресурсов. Повторим, построить для каждого дворец, космический шатл, прогулочную яхту и 100 искусственных храмовых танцовщиц и\или танцоров (неотличимых от настоящих) невозможно. Придется выбирать, как распределять ограниченные ресурсы. Кому дать, а кому - нет. Как именно искусственный интеллект станет осуществлять этот выбор? Кто знает. В любом случае, это все будет решать он, а не вы.

Во-вторых, с чего вы взяли, что искусственный автономный интеллект вообще станет исходить из необходимости удовлетворения потребностей людей? Даже если от него этого потребуют, совсем не факт, что он так поступит. Вариант, на который обычно и уповают любители кибернетической утопии, заключается в том, что искусственный интеллект сам занимается производством и распределением ресурсов, самопрограммируется, самообучается. Не человек, а он решает, что, как и для кого производить. Этот забавнейший вариант подробно рассматривается, например, Станиславом Лемом в Сумме Технологий. Проблема в том, что люди понятия не имеют, как устроены мозги самостоятельно мыслящего робота и что он намерен делать. Любой саморазвивающийся интеллект - загадка для окружающих и даже, в какой-то мере, для самого себя. А между тем, повторю, он решает, что, как и для кого производить. Он, например, может решить, что вам следует поработать грузчиком в Антарктиде 7 лет и выкрасить волосы в синий цвет. Или, по его мнению, потребуется сократить на 90% количество гомосексуалистов и одновременно увеличить число рыжевослосых гетеросексуальных женщин с большой грудью. И да, всем в течении трех лет потреблять попкорн, а потом перейти на сою. Почему? Он так решил. Люди же больше ничего совместно не решают и возложили все функции управления на него.

Искусственный интеллект, способный управлять обществом, пока не создан и совсем не факт, что будет когда-нибудь создан. Но если это случится, последствия реализации кибернетической утопии могут быть куда более забавными и одновремено куда более жуткими, чем те, которые я тут попытался быстро набросать. Возможно кто-то настолько ненавидит людей, что предпочтет поставить над собою в качестве диктатора нечеловеческое существо.