Ученые поручили нескольким ИИ-моделям от разных разработчиков улучшить публикации пользователей в социальных сетях на темы, вызывающие общественные споры. Затем исследователи сравнили исходные сообщения с версиями, созданными ИИ, и проверили, менялась ли выраженная в них позиция.

Оказалось, что языковые модели часто вносили не только стилистические правки, но и меняли тональность и направленность сообщений. При этом разные модели демонстрировали схожие тенденции. Они чаще смещали тексты в поддержку одних позиций, например, контроля над оружием, легализации растительных видов наркотиков и феминизма, и чаще выступали против других, включая атеизм и смертную казнь.

Исследователи также провели компьютерное моделирование на основе данных социальных сетей X и Facebook*, чтобы оценить долгосрочные последствия таких изменений.

Симуляции показали, что даже небольшие сдвиги в отдельных публикациях могут постепенно распространяться внутри онлайн-сообществ и приводить к изменению коллективных взглядов.

Отдельно ученые изучили функцию X «Объясните этот пост», работающую на основе модели Grok. На примере публикаций на тему абортов они обнаружили, что система чаще формировала объяснения, благоприятные для сторонников запрета абортов. Анализ настроек показал, что такой эффект мог быть связан с одной конкретной инструкцией платформы, призывающей модель при необходимости оспаривать общепринятые нарративы.

Авторы исследования считают, что использование ИИ в социальных сетях создает новый механизм влияния на общественный дискурс, который пока недостаточно учитывается в правилах регулирования. ИИ-коммуникация становится более тонкой формой формирования общественного мнения, поскольку влияние происходит не через создание нового контента, а через изменение уже существующих постов пользователей.

*Деятельность компании Meta Platforms Inc. запрещена на территории РФ.