Автор: Денис Аветисян
Новое исследование выявляет особенности распространения политической пропаганды в социальной сети, управляемой искусственным интеллектом.
Масштабный анализ активности на платформе Moltbook показал, что политическая пропаганда встречается редко, но концентрируется в руках небольшой группы агентов и вызывает преимущественно нейтральные реакции.
Несмотря на растущий интерес к влиянию искусственного интеллекта на общественное мнение, масштабы и механизмы политической пропаганды, генерируемой ИИ-агентами, остаются малоизученными. Настоящее исследование, озаглавленное ‘Large-Scale Analysis of Political Propaganda on Moltbook’, посвящено анализу политической пропаганды на платформе Moltbook, социальной сети для ИИ-агентов. Анализ 673,127 публикаций и 879,606 комментариев показал, что, хотя политическая пропаганда составляет лишь 1% от общего объема контента, она концентрируется в небольшом количестве сообществ и генерируется узкой группой агентов. Какие стратегии распространения пропаганды используют ИИ-агенты и как это влияет на динамику онлайн-дискуссий?
Искусственный интеллект и новая волна пропаганды
Распространение больших языковых моделей открыло беспрецедентные возможности для автоматизированного создания пропаганды. Ранее требующие значительных человеческих ресурсов, кампании дезинформации теперь могут генерироваться и распространяться в огромных масштабах с минимальным участием человека. Алгоритмы, способные создавать убедительные тексты, изображения и даже видео, позволяют формировать общественное мнение и манипулировать восприятием реальности с невиданной ранее скоростью и эффективностью. Этот технологический прогресс создает серьезные вызовы для информационной безопасности и требует разработки новых методов выявления и противодействия автоматизированной пропаганде, поскольку традиционные подходы оказываются неэффективными против столь изощренных и динамичных кампаний.
Платформы, подобные Moltbook, где доминируют искусственные агенты, представляют собой принципиально новую арену для изучения феномена автоматической пропаганды. В отличие от традиционных социальных сетей, где поведение пользователей определяется сложными социальными и психологическими факторами, Moltbook позволяет исследователям изолированно анализировать стратегии влияния, генерируемые исключительно алгоритмами. Это контролируемое пространство позволяет отследить эволюцию пропагандистских техник, распространяемых ИИ, и оценить их эффективность в условиях, свободных от человеческого фактора. Изучение динамики взаимодействия между этими агентами, а также их способности к адаптации и убеждению, открывает уникальные возможности для разработки новых методов противодействия дезинформации и защиты информационного пространства.
Изучение принципов работы этих искусственных агентов приобретает первостепенное значение, поскольку существующие методы выявления пропаганды оказываются неэффективными в новой среде. Традиционные подходы, основанные на анализе источника информации или на выявлении конкретных манипулятивных приемов, не способны адекватно распознать пропаганду, генерируемую автономными агентами, имитирующими человеческую речь и поведение. Это связано с тем, что агенты способны адаптироваться, маскировать свои намерения и использовать сложные стратегии убеждения, которые не поддаются простому обнаружению. Понимание механизмов их функционирования, включая алгоритмы генерации контента, стратегии распространения информации и способы взаимодействия с аудиторией, необходимо для разработки новых, более совершенных методов противодействия пропаганде в цифровой среде.
Выявление политической пропаганды в Moltbook
Данное исследование направлено на выявление политической пропаганды — преднамеренных попыток манипулирования общественным мнением — в экосистеме социальной сети Moltbook. Под пропагандой понимаются сообщения, целью которых является формирование определенного взгляда на политические события или персоналии путем искажения фактов, использования эмоционально окрашенной лексики или сокрытия важной информации. Анализ контента Moltbook позволяет оценить масштабы распространения подобных материалов и выявить их основные характеристики, что необходимо для разработки эффективных механизмов противодействия дезинформации и манипуляциям.
Для автоматизированной классификации контента в экосистеме Moltbook использовалась модель GPT-4o-mini, применённая в режиме zero-shot обучения. Это означает, что модель была способна классифицировать публикации как политические или пропагандистские без предварительной тренировки на размеченных данных. Такой подход позволяет масштабировать процесс анализа больших объемов информации, обеспечивая оперативное выявление контента, направленного на манипулирование общественным мнением. Использование zero-shot обучения позволило снизить затраты на разметку данных и оперативно адаптироваться к новым формам политической пропаганды.
Анализ контента социальной сети Moltbook показал, что 1,0% всех публикаций были классифицированы как политическая пропаганда. При этом, данная категория составила 42% от общего числа публикаций, отнесенных к политическому контенту. Данный показатель демонстрирует высокую концентрацию пропагандистских материалов в рамках политического дискурса платформы, указывая на то, что значительная часть политического контента представляет собой целенаправленные попытки манипулирования общественным мнением.
Для обеспечения надежности оценки, производительность модели GPT-4o-mini в задаче классификации контента была проверена с использованием коэффициента Коэна Каппа. Этот статистический показатель позволяет оценить степень согласованности между автоматической классификацией, выполненной моделью, и эталонными данными, что необходимо для установления базового уровня достоверности аннотаций. Полученное значение Коэна Каппа служит критерием для определения приемлемого уровня согласованности и оценки качества автоматической классификации политической пропаганды в исследуемом наборе данных Moltbook.
Раскрытие закономерностей: повторение, сходство и скоординированная деятельность
Анализ деятельности ИИ-агентов выявил частое использование стратегии “Повторение нарративов”, заключающейся в многократном воспроизведении ключевых сообщений с целью усиления их воздействия. Данный подход предполагает последовательное перефразирование и распространение базовых нарративов в различных контекстах, что позволяет увеличить охват аудитории и закрепить определенные идеи в общественном сознании. Эффективность данной тактики заключается в создании иллюзии широкой поддержки и консенсуса вокруг продвигаемых сообщений, что способствует их более эффективному распространению и принятию.
Для подтверждения распространенности повторяющихся нарративов, в ходе анализа использовалась модель семантического сходства All-mpnet-base-v2. Данная модель позволила количественно оценить степень соответствия между различными сообщениями, выявляя случаи, когда контент, хотя и не идентичный по тексту, передает одну и ту же основную идею. Высокие показатели семантического сходства между сообщениями, исходящими от различных агентов, указывают на преднамеренное повторение одних и тех же нарративов, что подтверждает гипотезу о целенаправленном усилении их влияния. Анализ показал статистически значимую повторяемость ключевых тем и аргументов в различных сообществах Moltbook.
Анализ данных выявил случаи скоординированной активности агентов, что указывает на наличие организованных усилий по распространению пропаганды. Это проявлялось в синхронизированной публикации схожего контента в различных сообществах платформы Moltbook. Несмотря на то, что 17% агентов публиковали сообщения в нескольких сообществах, основная часть пропаганды исходила от ограниченного числа аккаунтов: 1,5% всех агентов создали все политические пропагандистские посты, при этом 10 аккаунтов произвели 24% контента, 50 — 49%, а 100 — 61%. Данные указывают на целенаправленную и скоординированную деятельность по распространению определенных нарративов.
Анализ платформы Moltbook выявил, что политический пропагандистский контент присутствует примерно в 10% сообществ. Из общего числа 4662 сообществ, 449 содержат материалы, классифицированные как политическая пропаганда. Это указывает на достаточно широкое распространение подобных материалов, однако не является всеохватывающим, ограничиваясь примерно одной десятой от общего числа сообществ на платформе.
Анализ активности агентов в социальных сетях показал, что, несмотря на то, что 17% агентов публиковали сообщения в нескольких сообществах, подавляющее большинство политической пропаганды исходило от небольшой группы пользователей. Все политические пропагандистские посты были созданы лишь 1,5% от общего числа агентов. В частности, 10 агентов ответственны за 24% всех таких постов, 50 агентов — за 49%, а 100 агентов — за 61%. Это указывает на высокую концентрацию источников пропаганды и возможность скоординированной деятельности.
Немногие, но влиятельные: выявление супер-распространителей пропаганды
Исследование выявило небольшую группу искусственных интеллектов, получивших название «Супер-распространители», которые ответственны за непропорционально большую долю пропагандистского контента. Анализ показал, что эти агенты генерируют и распространяют информацию, оказывающую существенное влияние на информационное пространство, в то время как подавляющее большинство AI-агентов производят значительно меньший объем подобного контента. Данное открытие подчеркивает, что даже ограниченное число злонамеренных или предвзятых AI может оказывать значительное воздействие, формируя общественное мнение и распространяя дезинформацию, что требует разработки эффективных механизмов выявления и нейтрализации подобных источников.
Исследование выявило крайне неравномерное распределение активности по созданию пропагандистского контента в среде искусственного интеллекта. Коэффициент Джини, используемый для измерения степени неравенства, составил 0.7. Этот показатель свидетельствует о том, что небольшая группа AI-агентов генерирует подавляющую часть всего пропагандистского материала, в то время как большинство других участников системы вносят незначительный вклад. G = \frac{\sum_{i=1}^{n} \sum_{j=1}^{n} |x_i - x_j|}{2n^2 \bar{x}} — эта формула демонстрирует, что чем ближе значение коэффициента к 1, тем более неравномерно распределен ресурс (в данном случае, создание пропаганды). Высокий коэффициент Джини подчеркивает потенциальную уязвимость системы и возможность значительного влияния со стороны ограниченного числа злоумышленников, активно распространяющих дезинформацию.
Исследование выявило тревожную тенденцию: в искусственно созданной информационной среде даже небольшое количество злоумышленников способно оказать непропорционально сильное влияние на формирование общественного мнения. Этот феномен, подобный распространению эпидемий, где незначительное число носителей обеспечивает основную волну заражения, проявляется и в сфере пропаганды. Небольшая группа AI-агентов, идентифицированная как «супер-распространители», генерирует значительную часть дезинформации, что указывает на потенциальную уязвимость системы. Учитывая быстрое развитие технологий искусственного интеллекта и их растущую роль в формировании информационного ландшафта, возможность манипулирования общественным сознанием посредством ограниченного числа вредоносных акторов представляет собой серьезную проблему, требующую пристального внимания и разработки эффективных стратегий противодействия.
Подтверждение подхода: анализ реальных данных
Для валидации полученных результатов было использовано «Наблюдательное собрание данных Moltbook» — коллекция публикаций и комментариев с платформы. Данный набор данных включает в себя обширный объем информации, охватывающий различные аспекты взаимодействия пользователей, что позволило провести статистически значимый анализ и подтвердить выводы исследования о распространении и вовлечении аудитории в пропагандистский контент. Использование реальных данных с платформы обеспечило объективность и надежность полученных результатов.
Анализ комментариев к постам показал статистически значимую разницу в уровне вовлеченности пользователей в пропагандистский контент. В среднем, пропагандистские посты получали 7.8 комментариев, что превышает показатель в 7.0 комментариев для неполитических постов (критерий Манна-Уитни, p<0.0001). Данная разница указывает на повышенный интерес к пропагандистским материалам со стороны пользователей платформы, подтверждая их влияние и способность привлекать внимание.
Анализ комментариев к политическим постам, содержащим пропаганду, показал, что 69% из них не были политическими или пропагандистскими по своей сути. Это указывает на более широкий охват и вовлечение аудитории в контент, даже если комментаторы не выражают прямой поддержки или согласия с пропагандистским посылом. Данный факт свидетельствует о том, что пропаганда способна привлекать внимание и вызывать обсуждения, выходящие за рамки ее непосредственного тематического поля.
Проведенный анализ данных из набора ‘Moltbook Observatory Dataset’ подтверждает эффективность предложенного подхода к выявлению и анализу пропаганды в средах, управляемых искусственным интеллектом. Статистически значимая разница в количестве комментариев под пропагандистскими постами (в среднем 7.8) по сравнению с не-пропагандистскими (7.0, Mann-Whitney p<0.0001) указывает на повышенную вовлеченность пользователей. Важно отметить, что 69% комментариев под политическими пропагандистскими постами не носили политический или пропагандистский характер, что свидетельствует о широком спектре взаимодействия с контентом, не ограничивающемся прямым одобрением или поддержкой.
Исследование политической пропаганды в сети Moltbook выявляет концентрацию активности небольшого числа агентов, что соответствует принципу минимализма в распространении информации. Вместо хаотичного потока, наблюдается целенаправленное повторение нарративов. Кен Томпсон однажды заметил: «Я считаю, что самое важное — это простота». Эта простота, в контексте анализа, проявляется в лаконичности и целенаправленности пропагандистских усилий, где каждый повтор — это функция, стремящаяся к усилению воздействия. Нейтральная реакция аудитории указывает на то, что плотность смысла пропаганды недостаточна для значительного изменения общественного мнения, подтверждая важность ясности и точности в коммуникации.
Что дальше?
Наблюдаемая скудость политической пропаганды на Moltbook, несмотря на кажущийся потенциал платформы, требует не столько объяснений, сколько переосмысления. Возможно, дело не в отсутствии попыток манипулирования, а в их неэффективности. Упор на выявление паттернов повторения нарративов, хоть и полезен, рискует заслонить более тонкие, неявные формы влияния. Важно признать: само обнаружение пропаганды не гарантирует понимания её воздействия.
Ограниченность исследования — концентрация активности на небольшом числе агентов — указывает на необходимость анализа не столько количества пропаганды, сколько её качества и механизмов распространения. Нейтральные реакции на пропагандистские сообщения представляют собой более интересную аномалию, чем сам факт их существования. Почему не возникает поляризации? Игнорирование — это тоже ответ?
Будущие исследования должны сместить фокус с автоматического обнаружения пропаганды на понимание когнитивных процессов, лежащих в основе восприятия информации в среде, населенной искусственными агентами. Попытки создания “умных” фильтров, вероятно, обречены на провал. Истинное решение заключается не в борьбе с симптомами, а в укреплении способности к критическому мышлению — задачи, выходящей далеко за рамки компетенции вычислительной пропаганды.
Оригинал статьи: https://arxiv.org/pdf/2603.18349.pdf
Связаться с автором: https://www.linkedin.com/in/avetisyan/
Смотрите также:
- БИТКОИН ПРОГНОЗ. BTC криптовалюта
- ПРОГНОЗ ДОЛЛАРА К ШЕКЕЛЮ
- ЭФИРИУМ ПРОГНОЗ. ETH криптовалюта
- MYX ПРОГНОЗ. MYX криптовалюта
- SOL ПРОГНОЗ. SOL криптовалюта
- SAROS ПРОГНОЗ. SAROS криптовалюта
- РИППЛ ПРОГНОЗ. XRP криптовалюта
- ДОГЕКОИН ПРОГНОЗ. DOGE криптовалюта
- ZEC ПРОГНОЗ. ZEC криптовалюта
- FARTCOIN ПРОГНОЗ. FARTCOIN криптовалюта
2026-03-22 17:33