Всем привет! Мы продолжаем наш еженедельный подкаст «Тренды порядка и хаоса». Это эпизод 264. Сегодня мы поговорим о Михаиле Бакунине и - внезапно - о больших языковых моделях, также известных как «искусственный интеллект» или «чатботы».
Беспросветная российская хтонь
Сначала кратко о беспросветной российской хтони, которая, конечно же, продолжает происходить. 21 мая задержали адвоката Игоря Поповского. Он защищал анархиста-партизана Руслана Сидики и открыто добивался признания фигурантов дел о диверсиях военнопленными в рамках Женевской конвенции.
Проект «Огни Свободы», который поддерживает заключённых анархистов и антифашистов, считает преследование Игоря Поповского местью со стороны российских силовиков. Он давал огласку там, где они ее не хотели: «теперь один из немногих смелых и неподконтрольных силовикам адвокатов находится под следствием, а заключённый анархист Руслан Сидики перед апелляцией остался без защитника».
Недавно «Огни Свободы» объявили сбор на оплату работы адвоката Сидики - он остаётся актуальным, но теперь ещё предстоит найти нового адвоката. (На момент публикации текста «Трендов» новый адвокат найден, апелляция назначена на 1 июля - Ред.).
Из смешных новостей: в некоторых российских регионах запретили продавать несовершеннолетним компоненты коктейля Молотова. Ну то есть, видимо, бензин, машинное масло... и, неужели и пенопласт?! Предлогом выступает то, что «несовершеннолетних вовлекают в поджоги с использованием легковоспламеняющихся жидкостей» - вовлекают, очевидно, украинские спецслужбы. Логика российских властей, конечно, идиотская. Если уж СБУ вообще завербовало какого-то подростка, то, наверное, им не составит труда найти этому подростку и бензин, и масло, и даже готовую взрывчатку. Уж не говоря о том, что запреты на продажу товаров подросткам легко обходятся - хоть ты спички запрети продавать, при желании это не составляет большой проблемы.
Эта земля дала миру Бакунина
Но хватит о хтони. Много и хорошего тоже дала миру земля, нынче временно известная под названием «Российская Федерация». 30 мая мы отмечали день рождения Михаила Бакунина - одного из основателей современного анархизма. Многие его тексты вы можете почитать в библиотеке на нашем сайте. Мы сейчас, кстати, проводим в библиотеке генеральную уборку, и скоро выкатим новую версию.
Также на днях на сайте snob.ru вышло интервью про Бакунина с философом Николаем Герасимовым. Помимо прочих интересных вещей, он там говорит вот такое:
«Бакунинская критика представительства бьёт и по современной слепой вере в технологии и искусственный интеллект. Делегирование человеческой свободы любому абстрактному агенту - будь то учёные, политики, духовенство или алгоритмы ИИ - для Бакунина чудовищно. Потому что вся цифровая система контроля находится в руках узкой социальной группы, отстаивающей свои финансовые и политические интересы. Свобода возможна только через прямую самоорганизацию общества».
Всё правильно говорит Николай Герасимов, и это приводит нас к главной теме сегодняшнего выпуска - так называемому «искусственному интеллекту».
Что меняет ИИ?
Прежде всего о терминах. Когда говорят «искусственный интеллект», то обычно имеют ввиду большие генеративные языковые модели на основе машинного обучения. На самом деле, слово «языковой» уже не совсем верное, потому что современные модели работают и с изображениями, и со звуком - они мультимодальные. Но общий смысл технологии тот же, поэтому пока по традиции используется термин «большие языковые модели» - large language models (LLM). Насколько это действительно «интеллект» - вопрос скорее философский, и ответ на него постоянно меняется. Поэтому я даже не буду про это спорить - просто примем, что есть вот такие полезные инструменты, и они умеют работать с человеческим языком, и даже решать некоторые задачи быстрее и лучше, чем люди.
Но сами задачи по-прежнему ставят люди, и, естественно, они могут служить как благим, так и не очень благим целям. Машинное обучение может помогать массовой слежке через камеры наблюдения. Но может и помогать небольшим коллективам, в том числе анархистским: с переводами, быстрым подведением итогов, с ведением записей встреч и так далее.
Такие технологии позволяют реально повысить эффективность активистской работы. Мы согласны с авторкой канала «Радикальное настроение», что нет никакого смысла пытаться просто игнорировать их - и тем более пытаться протестовать против использования языковых моделей в принципе только лишь потому, что у них есть и негативные аспекты..
Вообще есть много вопросов о том, как большие языковые модели изменят общество. Нам - и анархистам, и всему человечеству - действительно нужно будет обсуждать эти вопросы и принимать решения. Как пишет криптограф и активист Брюс Шнайер:
«Я буду только рад, если система искусственного интеллекта вычислит оптимальное время работы светофоров, чтобы обеспечить самое эффективное движение машин в моём городе. Когда мы сможем сказать то же самое об установлении процентных ставок? Или о налогообложении? Как бы мы отнеслись к устройству с ИИ в нашем кармане, которое голосовало бы от нашего имени тысячи раз в день, основываясь на предпочтениях, которые оно вывело из наших предыдущих действий? Или как бы мы себя чувствовали, если бы система с ИИ могла определять оптимальные решения, которые уравновешивают предпочтения каждого избирателя? Нам всё ещё будут нужны парламенты и депутаты? Возможно, вместо этого мы можем голосовать непосредственно за идеи и цели, а затем оставить детали компьютерам?»
Но это всё пока всё-таки будущее. Я не думаю, что в ближайшее время появится реальный искусственный интеллект с самосознанием, или что существующие языковые модели как-то совсем радикально изменят социально-экономические основы современного общества. Но как-то, конечно изменят - например, в своё время нас сильно изменило появление Интернета или соцсетей. Так же и тут.
И есть некоторые технические детали, актуальные уже сейчас. Я хочу остановиться на них.
Чаще всего даже активисты в своих дискуссиях говорят только о популярных коммерческих моделях, типа ChatGPT, Gemini, Claude, Grok и так далее. Это закрытые модели: их нельзя скачать, а детали их обучения - коммерческая тайна. Однако, как и программы, модели могут быть не только закрытыми, но и открытыми. Но об этом мы поговорим через несколько минут, а пока - минутка экономики.
Экономика AI
Закрытые модели по большей части принадлежат гигантским технологическим корпорациям: Google, Microsoft, Nvidia, Meta, Baidu и так далее. Даже недавние «стартапы» типа OpenAI или Anthropic получили такое количество инвестиций, что сейчас фактически тоже являются частью этих корпораций. Например, Anthropic формально сейчас стоит почти триллион долларов.
Конечно, в реальности это пузырь - просто раздутая стоимость акций, поскольку инвесторы ожидают сумасшедших прибылей в будущем. При этом годовая выручка Anthropic в 2026 году составит всего 47 миллиардов долларов, компания до сих пор не прибыльная, и, по признанию её директора, и не будет прибыльной как минимум до 2028 года, если не дольше. То же самое с её конкурентом OpenAI, владельцем ChatGPT. Пока все эти корпорации только жгут деньги инвесторов, не принося им дохода.
Конечно же, капитализм не может долго терпеть такое положение вещей. Бигтех-компании обязательно будут пытаться монетизировать свои чат-боты. И делать они это будут через «экономику слежки»: то есть, будут использовать для рекламы те огромные объёмы информации о пользователях, которые они уже накопили.
Только реклама может окупить всю эту круглосуточную работу огромных датацентров с самыми последними версиями самых быстрых процессоров. Реклама в Интернете - это огромный рынок. Например, Google заработал на рекламе с 2001 года полтора триллиона долларов, это чистая прибыль. Вы думали, что Google - это компания, которая занимается интернет-поиском или там электронной почтой? Нет, Google - это рекламная компания, и реклама составляет 80-90% её доходов. И Google, как и остальные коммерческие "провайдеры искусственного интеллекта, будет соединять все свои проекты с рекламой.
Собственно, реклама уже появляется в бесплатных версиях ChatGPT и в «AI-поиске» Google. И её будет больше - если, конечно, вы не заплатите за её отключение. Корпорации и раньше манипулировали поведением своих пользователей в интересах рекламодателей и инвесторов. Но сейчас это проще и страшнее. Внедрять скрытую или явную рекламу в разговоры с чат-ботом гораздо эффективнее, чем тупо показывать рекламные баннеры внизу страницы. Потенциал для манипуляций гораздо больше. В том числе, кстати, и политической манипуляции. Любой бизнес по достижении определённого масштаба неизбежно становится и политическим игроком. И никто не отменял неизбежное тяготение крупного монополистического капитала к правым или даже откровенно фашистским политическим практикам. Просто потому, что так им легче извлекать прибыли. Так что опасность, безусловно, есть.
«Искусственный интеллект» в историческом контексте
Но давайте немного отвлечемся от языковых моделей и посмотрим на то, как компьютерные технологии и бигтех-монополии и государства взаимодействовали раньше.
Уже лет 30-40 назад человечество стояло на краю пропасти: на рынке программ почти полностью царила корпорация Microsoft со своей операционной системой Windows и её производными. Одновременно обычным людям было практически недоступно стойкое шифрование данных - оно оставалось привилегией спецслужб и всяких закрытых лабораторий.
Но активисты свободного программного обеспечения вроде Ричарда Столлмана и Линуса Торвальдса запустили процесс коллективного создания открытых и бесплатных программ. Интернет сейчас функционирует на открытом программном обеспечении, за которое никому не нужно платить, и которое резко превосходит по качеству закрытое (например, никто не использует Microsoft Windows на серверах, потому что дураков нет, все используют Linux). Полмира имеет в кармане смартфон на операционной системе Android, которая создана на основе открытой операционной системы Linux.
На этой же волне появились важнейшие проекты Открытого Веба типа Википедии или открытых карт OpenStreetMap. Википедия и OpenStreetMap собрали огромное количество знаний, которые доступны всем, и абсолютно бесплатно, и при этом превосходят по качеству ресурсы, созданные так называемыми «экспертами». Представьте, что не было бы Википедии, и мы бы платили за энциклопедические знания - возможно, за каждое слово из каждой запрошенной статьи. Звучит жутко? Ну так мы сейчас уже платим провайдерам чатботов за каждый сгенерированный токен.
Почти одновременно с движением за свободное программное обеспечение появилось движение шифропанков. Люди вроде Брюса Шнайера и Джона Гилмора дали нам доступное всем стойкое шифрование на наших компьютерах. Шифрование с открытыми, прозрачными алгоритмами, которые любой может проверить, и в которых нет и не может быть никаких бэкдоров. Это резко увеличило власть в руках обычных людей и сдвинуло баланс в нашу сторону - от национальных государств и крупных корпораций.
Вслед за этим, в 2000-е годы, развернулась война за социальные сети. К сожалению, человечество фактически проиграло её крупному капиталу. Почти вся экосистема соцсетей и мессенджеров контролируется двумя-тремя глобальными мега-корпорациями, которые сосредоточили в своих руках огромные информационные потоки. Попытки сопротивления этому есть (например, соцсеть Mastodon, в которой есть и Автономное Действие, но пока они не представляют серьёзной угрозы для монополий.
Ну а прямо сейчас на наших глазах разворачивается война за большие языковые модели. В рекламных буклетах и на завтраках для инвесторов, конечно, используют слова «искусственный интеллект». Какой будет экосистема этих моделей?
Языковые модели: либертарные альтернативы
В США и других странах нарастают протесты против строительства новых датацентров для «ИИ-сервисов». Часто это выливается в общее раздражение при любом упоминании «искусственного интеллекта» - например, тут недавно студенты в Аризоне освистали бывшего топ-менеджера Гугла Эрика Шмидта, когда он упомянул в своей речи «AI».
Это раздражение во многом оправдано - тут и рост цен на электричество для обычных людей из-за запредельного потребления дата-центрами, и страх безработицы. Ведь технологические корпорации уже почти убедили нас, что вот-вот всю нашу работу будут делать модели, а мы все будем сидеть на пособии.
На самом деле главная проблема не в машинном обучении, не в языковых моделях и не в так называемом «искусственном интеллекте». Главная проблема, как всегда, в концентрации технологических ресурсов и знаний в руках немногочисленных частных корпораций, которые абсолютно неподотчетны обществу.
От прозрачного и открытого «искусственного интеллекта» общество действительно может выиграть - так же, как оно выиграло в прошлом от появления канализации или общественного транспорта. Но для этого нужно развернуть развитие больших языковых моделей от чисто коммерческого предприятия для извлечения прибыли в сторону общественного блага - прозрачно и под надзором людей.
Корпорациям выгодно, чтобы мы отождествляли модели с чат-ботами, которые они разработали. Для многих людей «генеративный искусственный интеллект» - это собственно и есть вот это приложение ChatGPT в смартфоне или интерфейс Claude на компьютере. Эта парадигма «модель как сервис» создает выученную беспомощность - что типа мы можем только обращаться к услугам корпораций, а там какая-то полу-мифическая «модель» что-то нам посчитает и выдаст ответ на запрос. И если повезет - не заломит огромную цену за подписку. Но самим такие модели запускать или модифицировать - это не для простых смертных, это доступно только корпорациям...
Бигтех-компании паразитируют на открытых знаниях и технологиях, которые создаёт наука и энтузиасты. Но сами они не дают обществу ничего, кроме своих моделей в виде товара в супермаркете. И этот товар обвешан ярлычками «коммерческая тайна, ни в коем случае не анализировать». И корпорации очень заинтересованы в том, чтобы пользователи настолько привыкли к их сервисам, что уже не смогут уйти - так же, как в своё время сделали коммерческие соцсети.
Но альтернатива существует, и нам не нужно начинать с нуля, чтобы переломить тенденцию. Открытые языковые модели в децентрализованной экосистеме уже существуют, и существовали всегда - ещё до появления первого коммерческого чат-бота.
Есть огромное количество моделей, в том числе поддерживающих русский язык, которые можно найти, например, на HuggingFace и в других местах. Разрыв по качеству с закрытыми моделями небольшой - по некоторым оценкам, открытые модели в среднем отстают от последних версий ChatGPT или Claude максимум на полгода. Корпорации чувствуют давление, и даже начинают выпускать некоторые свои модели в открытый доступ, чтобы поправить свой имидж.
Многие из этих моделей открыты лишь до некоторой степени: их можно скачать и установить на свой сервер, но их обучающие данные неизвестны - то есть, они не совсем подконтрольны вам. Это, например, Llama или Deepseek. Такие модели называются «модели с открытыми весами».
Даже это уже большой шаг вперед по сравнению с полностью закрытыми проектами типа ChatGPT. В 2026 году запустить такую модель даже и на своем ноутбуке уже не так сложно - спросите любого друга, кто хоть что-то понимает в компьютерах. Существует огромное количество свободного программного обеспечения для локальной работы с языковыми моделями, с интерфейсом, похожим на ChatGPT. Вам не нужно обращаться ни в какое «облако» - всё происходит локально, на вашем компьютере или по крайней мере в пределах локальной сети внутри вашей квартиры. Вопрос утекания личных данных снимается с повестки дня.
Но если хочется быть уверенным, что вы знаете, на чем именно обучался ваш чат-бот, то есть и множество полностью открытых моделей, с прозрачными обучающими данными. Есть модель Apertus, обученная общественными фондами в Швейцарии. Её можно использовать через веб-интерфейс, а можно скачать и установить на свой собственный сервер. Есть и другие проекты: американские, китайские, европейские. Выбирай на любой вкус. К слову, Россия пытается что-то делать в этой сфере, но наука и технологии настолько отстали (особенно после войны и санкций), что её присутствие практически незаметно. Как уже говорилось, беспросветной хтони в путинской России гораздо больше, чем искусственного интеллекта. Модели, обученные в России, никогда не попадают ни в какие лидерборды, и упоминаются в основном, когда учёным нужно исследовать политическую цензуру в больших языковых моделях. Там широкое поле для анализа.
Но, возвращаясь к топовым достижениям - открытые модели способствуют прогрессу и общему благу. Каждый может скачать, использовать, изучать и улучшать модель, так же, как свободное программное обеспечение или тексты из Википедии. Исследователи могут опираться на предыдущие работы и двигать технологии вперёд. В итоге лучше становится всем. Но для этого технологии, знания и сами модели должны быть децентрализованы, распределены по всему обществу.
И именно в этом, на мой взгляд, будущее. В идеале, в подвале каждого дома должен стоять небольшой сервер, которым владеют вместе все жильцы. На нём локально крутятся открытые модели, которые они используют для всех своих целей. Возможно, жильцы даже дообучают эти модели на своих данных, но данные при этом не покидают пределов этого подвала без согласия всех жильцов. Это как отопительный котел в том же самом подвале: общая, коммунальная инфраструктура.
Да, для достижения этого идеала предстоит решить много проблем. Самая большая из них - это железо. Да, многие модели могут работать хоть на ноутбуке, но это будет не быстро. Для обработки большого числа запросов нужны специализированные процессоры (видеокарты, GPU). Мощные GPU сейчас производят две-три компании в мире (Nvidia, AMD, Huawei), и они стоят очень дорого.
Но эта проблема решаемая. Для нужд жильцов одного дома не нужно обрабатывать миллиарды запросов в секунду, так что во многих случаях хватит и пары обычных старых компьютеров, которые эти жильцы купят в складчину. Да и новые игроки на рынке процессоров для «искусственного интеллекта» тоже появляются, и если общество будет создавать для этого условия, то развитие технологий неизбежно удешевит необходимое железо.
То есть всё человечество сейчас стоит перед выбором: или мы попадаем в антиутопию, где четыре-пять корпораций монополизировали генеративные модели и используют их для получения огромных прибылей, или мы сами создаем децентрализованную экосистему открытых моделей, которые служат человечеству, а не наоборот. Солнечная батарея на крыше каждого дома или огромная угольная электростанция на весь город?
Выбор за нами. Но анархисты должны продвигать действительно либертарные освобождающие альтернативы, потому что это всё кирпичики в здание будущего свободного общества. Начните хотя бы с того, чтобы хотя бы временно прекратить использовать закрытые корпоративные чёрные ящики и попробовать свободные языковые модели, про которые мы сегодня рассказали.
Вместе мы сильнее! И среди нас и вас уж точно есть герои.
Ну вот и все на сегодня! Напоминаем, что в «Трендах порядка и хаоса» участники Автономного Действия и другие авторы дают анархистские оценки текущим событиям. Слушайте нас на YouTube, SoundCloud и других платформах, заходите на наш сайт avtonom.org, подписывайтесь на наши соцсети и e-mail рассылку.
Выпуск подготовил Мани
Добавить комментарий