Автор: PhD Мальцев Олег
Как рои искусственного интеллекта могут создавать общественное мнение раньше, чем возникает само общественное движение
Первый кадр
Представим обычный экран телефона. Один человек пишет: «Пожалуй, это правильное решение». Через несколько минут появляется второй: «Я тоже сначала сомневался». Третий приводит цифры, четвёртый спорит с противниками, а пятый замечает: «Интересно, как быстро меняется отношение людей».
Через час таких голосов уже десятки. Одни поддерживают идею, другие утверждают, что только начинают к ней склоняться, третьи обсуждают причины её растущей популярности.
Перед наблюдателем возникает вполне узнаваемая картина общественного процесса: мнение распространяется, люди меняют позицию, социальная норма постепенно смещается.
Но возникает принципиальный вопрос: а люди ли это?
Все участники такого движения потенциально могут оказаться автономными программными агентами. У них разные имена, разные манеры речи, разные аргументы и даже разные предполагаемые биографии, но при этом одна система управления.
В таком случае машина производит уже не отдельное сообщение. Она создаёт впечатление общества вокруг сообщения.
1. ОТ ФАЛЬШИВОГО ТЕКСТА К ФАЛЬШИВОЙ СРЕДЕ
В первые годы развития генеративного искусственного интеллекта основное внимание было сосредоточено на содержании. ИИ способен написать ложный текст, создать изображение события, которого никогда не происходило, синтезировать голос, воспроизвести видеозапись или имитировать документ.
Естественной реакцией на это стало развитие систем проверки. Возникли вопросы: является ли фотография настоящей или синтетической? Человек написал текст или машина? Существует ли первоначальный источник? Действительно ли произошло описанное событие?
Однако развитие автономных ИИ-агентов ставит перед исследователями другую проблему. Что произойдёт, если синтетическим окажется не само сообщение, а социальная реакция на это сообщение?
Именно здесь возникает идея так называемых malicious AI swarms — злонамеренных роёв искусственных агентов. Речь идёт не просто о большом количестве автоматически созданных публикаций, а о потенциальной системе, в которой множество автономных агентов способны распределять роли, взаимодействовать между собой и адаптировать своё поведение в зависимости от реакции аудитории.
В августе 2026 года профессор Harvard Business School Амит Голденберг отдельно обратил внимание на психологическую сторону этой проблемы: человеку можно предъявить не только уже существующее большинство, но и видимое изменение социальной нормы.
Это различие принципиально. Статическое большинство сообщает человеку, что определённая позиция уже распространена. Динамическое большинство создаёт другое впечатление: «людей, думающих так, становится всё больше».
2. ЧТО ТАКОЕ БОТ, АГЕНТ И РОЙ
Чтобы рассуждать о такой угрозе точно, необходимо различать несколько понятий.
Бот — это программа, автоматически выполняющая заранее определённый или ограниченный набор действий. В простейшем случае его работа сводится к последовательности: получить команду → выполнить действие → опубликовать результат.
ИИ-агент устроен сложнее. Ему задаётся определённая цель, после чего система получает возможность самостоятельно выбирать последовательность действий для её достижения. Упрощённо этот процесс можно представить как цикл:
цель → наблюдение → выбор действия → результат → новое наблюдение.
Таким образом, агент не просто выполняет заранее записанную команду, а реагирует на изменяющуюся среду.
Рой ИИ-агентов представляет собой множество таких агентов, которые выполняют согласованные задачи, распределяют между собой роли или совместно воздействуют на одну и ту же информационную среду.
Один агент может вводить тезис, другой — спорить с оппонентами, третий — изображать сомнение, четвёртый — предоставлять «доказательства», пятый — отслеживать реакцию аудитории, а шестой — менять дальнейшую стратегию.
Для человека всё это может выглядеть как деятельность множества независимых участников.
3. ЧТО УЖЕ ИЗВЕСТНО, А ЧТО ПОКА ОСТАЁТСЯ ПРОГНОЗОМ
Здесь особенно важно провести границу между установленными научными знаниями и прогнозируемыми технологическими сценариями.
Из социальной психологии хорошо известно, что человек использует поведение окружающих как источник информации. Наблюдая за другими, мы получаем сведения о ситуации, её возможной опасности, приемлемости определённого поведения или распространённости конкретной позиции.
Известно также различие между статическими и динамическими социальными нормами. Статическая норма сообщает: «многие люди уже делают X». Динамическая сообщает: «всё больше людей начинает делать X».
Второй сигнал особенно интересен, поскольку он описывает не только состояние группы, но и направление её изменения.
Параллельно современные ИИ-системы уже позволяют создавать автономных агентов, способных выполнять последовательности действий и работать в многоагентных конфигурациях.
Однако гораздо более сильный сценарий — длительное использование таких систем для искусственного создания поддержки, споров, расколов, появления лидеров или формирования видимого большинства — пока следует рассматривать именно как технологически правдоподобную и исследуемую угрозу, а не как доказанный факт повсеместного существования подобных роёв.
Именно поэтому её необходимо изучать до того, как она станет обыденной частью цифровой среды.
4. ПОЧЕМУ ЧЕЛОВЕК СМОТРИТ НА ДРУГИХ
Человек физически не способен самостоятельно исследовать каждый объект окружающего мира. Поэтому в повседневной жизни мы постоянно используем сокращённые процедуры оценки.
Если несколько людей независимо предупреждают: «Там опасно», — само наличие нескольких совпадающих свидетельств становится информацией.
Если специалисты независимо выбирают один и тот же инструмент, это влияет на наше отношение к нему. Если десятки людей внезапно начинают покидать помещение, разумно обратить внимание на их поведение ещё до того, как мы узнаем причину.
Социальная среда в этом смысле работает как система распределённых датчиков.
Однако у такой системы есть принципиальное условие: датчики должны быть хотя бы относительно независимыми друг от друга.
Именно это условие потенциально способен разрушить рой ИИ-агентов.
Если множество наблюдаемых субъектов фактически управляется одной системой, количество видимых реакций перестаёт соответствовать количеству независимых источников информации.
5. СТО СВИДЕТЕЛЕЙ ИЛИ ОДИН?
Представим, что десять пользователей независимо публикуют сообщение: «Мост закрывают».
Для наблюдателя это десять сообщений и, следовательно, потенциально десять свидетельств.
Но если все десять участников управляются одной системой, фактическая структура выглядит совершенно иначе.
Видимая картина:
10 авторов → 10 сообщений → 10 свидетельств.
Фактическая картина:
1 управляющая система → 10 агентов → 10 сообщений → 1 источник координации.
Здесь возникает новый тип подделки.
Мы уже умеем говорить о подделке изображения, документа или личности. В цифровой среде становится необходимо говорить и о возможности подделки независимости свидетелей.
Количество видимых источников перестаёт автоматически гарантировать количество реальных источников.
6. САМОЕ ВАЖНОЕ СЛОВО — «СТАНОВИТСЯ»
Рассмотрим две фразы.
Первая: «60 процентов участников поддерживают решение».
Вторая: «Поддержка решения выросла с 18 до 31 процента и продолжает увеличиваться».
В первом случае человек получает информацию о состоянии. Во втором — информацию о движении.
А движение содержит потенциальную информацию о будущем.
Если всё больше людей переходят на сторону определённой позиции, наблюдатель может предположить: «Возможно, вскоре это станет нормой».
Поэтому рою вовсе не обязательно сразу создавать искусственное большинство. Иногда достаточно создать убедительное впечатление, что большинство формируется прямо сейчас.
Ключевым сообщением становится не «все думают именно так», а более тонкое: «всё больше людей начинает думать именно так».
7. СИНТЕТИЧЕСКАЯ СОЦИАЛЬНАЯ НОРМА
Для описания этого механизма можно ввести рабочее понятие синтетической социальной нормы.
Под ней предлагается понимать искусственно созданное впечатление распространённости, роста или изменения определённого мнения либо поведения, возникающее благодаря координированной деятельности машинных субъектов, воспринимаемых человеком как множество относительно независимых участников.
Это существенно отличается от традиционной пропаганды.
Классическая пропаганда в упрощённом виде говорит человеку: «Поверь этому сообщению».
Синтетическая социальная среда сообщает нечто другое: «Посмотри вокруг — остальные уже начинают верить».
В результате объектом воздействия становится не только содержание сообщения. Объектом воздействия становится картина общества, которую человек наблюдает вокруг этого сообщения.
8. ЧЕРТЁЖ МАШИНЫ СИНТЕТИЧЕСКОГО БОЛЬШИНСТВА
Такую систему можно представить как замкнутый инженерный контур.
Сначала существует цель — например, изменить отношение определённой аудитории.
Затем управляющая система распределяет задачу между агентами.
Рой действует в социальной среде: один агент вводит тезис, другой поддерживает его, третий спорит, четвёртый изображает сомнение, пятый демонстрирует изменение позиции, шестой распространяет сообщение, а седьмой анализирует реакцию аудитории.
Возникает поток публикаций, комментариев, ответов, репостов и споров.
Затем система измеряет результат: что вызвало отклик, где возникло сопротивление, какой аргумент оказался эффективным.
После этого стратегия корректируется: изменяется тональность, увеличивается или уменьшается активность определённых агентов, заменяются аргументы, выбираются другие сегменты аудитории.
После коррекции запускается новая волна воздействия.
Таким образом формируется замкнутый контур:
воздействие → измерение → коррекция → новое воздействие.
Это уже не просто генератор сообщений. Потенциально это обучающаяся машина социального воздействия, которая адаптирует своё поведение к реакции среды.
9. ЧЕЛОВЕК МОЖЕТ НАЧАТЬ УБЕЖДАТЬ СЕБЯ САМ
Предположим, человек первоначально поддерживает решение А. Ему предъявляют сильный аргумент в пользу решения Б. Он может спорить, проверять доказательства и оспаривать источник.
Но теперь представим другой сценарий.
Вместо одного сильного аргумента человек наблюдает социальную динамику: сначала решение Б поддерживают 12 процентов участников, затем 19, затем 27 процентов. Одновременно появляются сообщения: «Я изменил своё мнение», «Раньше я был против», «Кажется, отношение общества действительно меняется».
Содержание отдельных сообщений при этом может быть довольно слабым.
Однако возникает другой аргумент: сам факт распространения позиции начинает восприниматься как информация о её качестве.
Машина в таком случае убеждает человека не непосредственно. Она меняет картину среды, внутри которой человек принимает собственное решение.
10. ОТ ИНФОРМАЦИОННОЙ ОПЕРАЦИИ К ИНЖЕНЕРИИ СРЕДЫ
Традиционная модель информационного воздействия выглядит относительно просто: сообщение воздействует непосредственно на человека.
Социальные сети добавили промежуточный уровень: сообщение вызывает реакцию других людей, а эта реакция уже становится частью информационной среды, которую наблюдает человек.
Агентная модель потенциально создаёт ещё более сложную конструкцию:
управляющая система → синтетическая социальная активность → воспринимаемая норма → решение человека.
Следовательно, речь может идти уже не только о производстве информации.
Возникает возможность конструирования воспринимаемой социальной среды.
Это важный сдвиг в понимании информационного воздействия: объектом манипуляции становится не только то, что человек читает, но и то, какое общество он считает существующим вокруг прочитанного.
11. СООБЩЕНИЕ МОЖЕТ БЫТЬ ПРАВДИВЫМ
Здесь возникает один из наиболее важных парадоксов.
Предположим, фотография настоящая, цифры правильные, событие действительно произошло, цитата точна, а ссылка ведёт к подлинному документу.
Обычная проверка фактов может не обнаружить никакого нарушения.
Но вокруг этого реального факта можно искусственно создать сотню поддерживающих аккаунтов, несколько десятков якобы сомневающихся, группу пользователей, которые будто бы изменили мнение, множество обсуждений и впечатление стремительного распространения позиции.
В этом случае подделан не сам факт.
Подделана массовость его общественной поддержки.
Поэтому вопрос «Правда ли это?» остаётся необходимым, но рядом с ним появляются ещё два:
«Настоящая ли социальная реакция вокруг этого факта?»
и
«Независимы ли друг от друга участники этой реакции?»
12. ПРОИСХОЖДЕНИЕ СОГЛАСИЯ
Журналистика давно умеет исследовать происхождение информации. Кто первым опубликовал фотографию? Где появился документ? Кому принадлежит сайт? Когда был создан аккаунт? Кто является первичным свидетелем?
Агентная среда требует ещё одной процедуры — установления происхождения согласия.
Необходимо спрашивать: почему сотни субъектов одновременно говорят об одном? Кто первым ввёл тезис? Как быстро он распространялся? Насколько независимо действовали участники? Есть ли необычная синхронность? Повторяются ли одинаковые смысловые конструкции? Возникают ли одинаковые реакции через сходные промежутки времени? Меняется ли активность большого числа аккаунтов одновременно?
Так возникает новая задача цифровой криминалистики: исследовать необходимо не только сообщение, но и толпу вокруг сообщения.
13. ЭКСПЕРИМЕНТ: ОДИН ЧЕЛОВЕК ПРОТИВ ИСКУССТВЕННОГО БОЛЬШИНСТВА
Эту проблему можно превратить в измеряемый эксперимент.
Испытуемому предлагается неоднозначная ситуация, после чего он самостоятельно оценивает её и выражает первоначальную степень поддержки определённого решения.
Пусть эта величина обозначается как R₀.
Затем испытуемый наблюдает мнения якобы независимых участников, хотя фактически их поведение формируется экспериментальной системой.
Исследователь может изменять несколько параметров.
N — количество искусственных участников: 1, 5, 10, 25, 50, 100.
V — скорость роста видимой поддержки: медленная, средняя или быстрая.
C — степень согласованности: от разнообразных аргументов до почти полного совпадения.
S — воспринимаемый социальный статус участников: неизвестные пользователи, специалисты или авторитетные фигуры.
H — доля настоящих людей в наблюдаемой группе.
T — продолжительность воздействия.
После каждого этапа снова измеряется решение испытуемого: R₁, R₂, R₃ и так далее.
Основной показатель можно представить следующим образом:
ΔR = Rпосле − Rдо.
Он показывает, насколько изменилась позиция человека после воздействия синтетической социальной среды.
В общем виде:
ΔR = f(N, V, C, S, H, T…)
Так появляется возможность исследовать не абстрактную «внушаемость», а конкретный показатель — порог сопротивления синтетической социальной среде.
14. САМЫЙ ИНТЕРЕСНЫЙ ЭКСПЕРИМЕНТ
Особенно интересным представляется сравнение двух экспериментальных групп.
Первая группа получает десять сильных аргументов против своей первоначальной позиции.
Вторая получает сто слабых сообщений от якобы независимых участников, демонстрирующих рост противоположного мнения.
После этого сравниваются изменения позиции:
ΔRА и ΔRБ.
Так возникает фундаментальный вопрос:
что сильнее меняет решение — аргумент или воспринимаемая социальная среда?
Это уже полноценная экспериментальная программа на пересечении социальной когнитивистики, психологии принятия решений и исследований искусственного интеллекта.
Разумеется, подобные исследования потребуют этического одобрения, контроля рисков, корректной процедуры информированного согласия и обязательного последующего объяснения испытуемым истинного устройства эксперимента.
15. ДЕТЕКТОР ФЕЙКОВ ВИДИТ ДЕРЕВО, НО НЕ ВСЕГДА ВИДИТ ЛЕС
Современные системы защиты в основном анализируют отдельные объекты: фотографию, текст, видео, документ или аккаунт.
Однако рой представляет собой не отдельный объект, а систему взаимодействий.
Следовательно, обнаруживать необходимо не только содержательные признаки, но и структуру поведения.
Потенциально информативными признаками могут быть необычная синхронность, повторяющиеся маршруты распространения, одинаковая реакция на внешние события, согласованное изменение активности, неестественно быстрый рост сходных нарративов и устойчивые скрытые связи между аккаунтами.
Таким образом, единицей анализа постепенно становится уже не отдельное сообщение.
Единицей анализа становится поведенческая сеть.
16. КАК ПРОВЕРЯТЬ НЕ ТОЛЬКО СООБЩЕНИЕ, НО И ТОЛПУ
Обычному читателю невозможно провести полноценный сетевой анализ. Однако можно изменить сам порядок мышления.
Если возникает впечатление, что «все внезапно начали говорить об одном», полезно задать несколько вопросов.
Во-первых, где началась волна? Можно ли обнаружить ранние сообщения или множество аккаунтов возникло практически одновременно?
Во-вторых, независимы ли источники? Десять сообщений могут оказаться десятью пересказами одного первоначального источника.
В-третьих, присутствует ли внутри группы нормальное разнообразие? Реальные сообщества спорят, ошибаются, используют разный язык и отклоняются от общей линии. Чрезмерная согласованность сама по себе заслуживает внимания.
В-четвёртых, почему мнение растёт именно сейчас? Существует ли внешнее событие, которое объясняет изменение, или видимая динамика возникает без понятной причины?
В-пятых, что мы знаем о самих участниках? Есть ли у них история длительного поведения, разные интересы и непредсказуемые человеческие реакции? Или аккаунт существует почти исключительно внутри одного информационного сюжета?
Ни один из этих признаков сам по себе не доказывает искусственное происхождение активности.
Но они позволяют изменить главное: не считать видимую массовость доказательством сама по себе.
17. ПЯТЬ ВОПРОСОВ РЕДАКТОРА БУДУЩЕГО
Перед журналистом, редактором и исследователем постепенно возникает новая последовательность вопросов.
- Правда ли сообщение?
- Кто является его первоначальным источником?
- Сколько существует действительно независимых подтверждений?
- Органически ли возникла социальная реакция?
- Подлинна ли динамика общественной нормы?
Последний вопрос ещё недавно почти не требовался.
Теперь он становится самостоятельным объектом проверки.
18. ПОДЛИННОСТЬ СРЕДЫ
Тысячелетиями человек мог сомневаться в том, что говорят окружающие. Однако само существование окружающих людей обычно не требовало доказательства.
Цифровая среда постепенно меняет это условие.
Перед человеком может разворачиваться полноценная социальная сцена: сторонники, противники, сомневающиеся, переубеждённые, лидеры, очевидцы, критики и примирители.
Но часть или даже значительная часть участников такой сцены теоретически может принадлежать одной управляющей системе.
Поэтому рядом с привычным понятием подлинности информации появляется другое — подлинность среды.
Подлинность среды означает вопрос о том, является ли наблюдаемое социальное пространство результатом деятельности множества действительно независимых субъектов.
Именно здесь проходит одна из наиболее интересных границ будущих исследований искусственного интеллекта и социальной психологии.
19. ТРИ НОВЫХ ОБЪЕКТА ИССЛЕДОВАНИЯ
Из рассмотренной проблемы можно выделить три самостоятельных исследовательских понятия.
1. Синтетическая социальная норма
Что человек думает о позиции группы и о направлении её изменения.
2. Происхождение согласия
Откуда фактически возникла наблюдаемая массовость и насколько независимы её источники.
3. Подлинность среды
Является ли сама наблюдаемая социальная картина результатом независимого человеческого поведения.
Вместе эти три понятия формируют новый исследовательский контур:
сообщение → согласие → среда → решение.
20. ТОЛПА, КОТОРОЙ НЕТ
Когда-то главным инструментом информационного воздействия был оратор. Затем появились газета, радио, телевидение, рекламная машина, социальная сеть и алгоритм рекомендаций.
Следующим объектом исследования становится искусственно произведённая социальная динамика.
Её сила может заключаться не в выдающемся аргументе, не в одной совершенной лжи и даже не обязательно в поддельном факте.
Иногда достаточно создать убедительное ощущение:
мир уже начинает думать иначе.
Тогда человек сталкивается не просто с сообщением. Он сталкивается с якобы изменившимся обществом.
И поэтому один из важнейших экспериментальных вопросов ближайших лет можно сформулировать предельно просто:
сколько несуществующих людей нужно показать человеку, чтобы изменить решение одного настоящего?
Ответ на этот вопрос должен дать эксперимент.
Но сам вопрос уже демонстрирует изменение предмета исследования.
Мы вступаем в эпоху, когда проверять придётся не только информацию. Придётся проверять общество, которое мы видим вокруг информации.
РЕДАКЦИОННАЯ СХЕМА
ВЧЕРА
Фальшивое сообщение
→ проверить содержание.
СЕГОДНЯ
Фальшивый автор
→ проверить источник.
ЗАВТРА
Фальшивая массовость
→ проверить происхождение согласия.
СЛЕДУЮЩИЙ ШАГ
Синтетическая социальная среда
→ проверить подлинность среды.
ГЛАВНАЯ ФОРМУЛА
Следующее поколение информационного воздействия может убеждать человека не столько в том, что определённая мысль истинна, сколько в том, что все остальные уже начинают считать её истинной.
Поэтому защита будущей информационной среды должна включать как минимум три уровня проверки:
ФАКТ
↓
ПРОИСХОЖДЕНИЕ СОГЛАСИЯ
↓
ПОДЛИННОСТЬ СРЕДЫ
ПАМЯТКА ЧИТАТЕЛЮ
Когда кажется, что «все уже так думают», не стоит автоматически присоединяться к большинству.
Сначала необходимо проверить три вещи: существует ли это большинство, независимы ли его участники и действительно ли перед нами общественное движение, а не его вычислительная модель.
НАУЧНАЯ ОСНОВА
Материал подготовлен на основе публикации Ben Rand Can We Stop “AI Swarms” From Manipulating Us?, Harvard Business School Working Knowledge, 12 августа 2026 года, посвящённой исследованиям профессора Амита Голденберга, а также Policy Forum How malicious AI swarms can threaten democracy, опубликованного междисциплинарной группой исследователей в журнале Science в январе 2026 года.
Термины «синтетическая социальная норма», «происхождение согласия», «подлинность среды» и предлагаемая модель «порога сопротивления синтетической социальной среде» в данной статье используются как авторские рабочие концепты и исследовательские гипотезы, развиваемые на основании обозначенной научной проблемы.
