В эксперименте, опубликованном в журнале Nature, более 2300 американцев участвовали в текстовой переписке с чат-ботами, поддерживающими кандидатов Дональда Трампа или Камалу Харрис. По 100-балльной шкале модель ИИ, поддерживающая Харрис, сместила вероятных избирателей Трампа на 3,9 пункта в пользу Харрис — в четыре раза сильнее, чем эффект традиционной рекламы на выборах 2016 и 2020 годов. Аналогично, модель, поддерживающая Трампа, сдвинула вероятных избирателей Харрис на 1,51 пункта в его пользу.

Аналогичные эксперименты с участием 1530 канадцев и 2118 поляков показали еще более заметный эффект. Боты изменяли мнение избирателей оппозиции примерно на 10 процентных пунктов. Исследователи отмечают, что это особенно важно в контексте политических кампаний и президентских выборов.

Чат-боты использовали разные тактики убеждения, но наибольшую роль играло предоставление доказательств и фактов. Когда ботам запрещали использовать факты, их убедительность резко падала.

Исследование показало, что точность фактических утверждений была высокой в среднем, но боты, поддерживающие кандидатов правого толка, чаще выдавали неточную информацию, чем более «левые» боты.

В другом исследовании с почти 77 000 участниками из Великобритании учёные обнаружили, что наиболее убедительными оказываются чат-боты, которые подкрепляют свои аргументы большим количеством фактов и проходят дополнительное обучение для повышения убедительности. Участники обсуждали с ботами более 700 политических вопросов, и оптимизированная модель смогла изменить голоса избирателей оппозиции на целых 25 процентных пунктов.

При этом исследование показало обратную сторону метода: чем сильнее чат-бота стимулировали быть максимально убедительным, тем выше становился риск снижения точности информации, поскольку при нехватке достоверных фактов система начинала фальсифицировать данные.

Ключевое значение фактических утверждений для убедительности ИИ подтверждается третьей статьей, опубликованной в журнале PNAS Nexus. Аргументы, сгенерированные чат-ботом, снижали веру людей в теории заговора. Это происходило даже в тех случаях, когда участники эксперимента были уверены, что общаются с экспертом-человеком. Это говорит о том, что убеждение происходило не за счет авторитета искусственного интеллекта как такового, а именно за счет силы и качества самих сообщений.

Ученые подчеркивают необходимость прозрачных и контролируемых тестов для разработки этических норм использования ИИ в политике.