«Демократия может проиграть новому поколению ботов-пропагандистов»
Logo
Cover

Исследователи проекта Computational Propaganda предупреждают: появляется новое поколение политических ботов-пропагандистов. В них используются элементы искусственного интеллекта и методы машинного обучения. Такие ИИ-боты выведут распространение дезинформации и манипуляцию общественным мнением на небывалый уровень.

Боты — простые компьютерные скрипты — были придуманы изначально для автоматизации рутинных задач. Компании и масс-медиа используют их для мгновенного оповещения пользователей о новостях или продвижения публикаций.

Однако с их помощью можно также управлять большим числом фейковых аккаунтов, так что боты становятся идеальным инструментом политических манипуляций. Они уже доказали, что способны распространять экстремистские взгляды в социальных сетях, а также транслировать чужие мнения посредством лайков, перепостов и тому подобных инструментов. Алгоритм вознаграждает их за каждое действие, привлекающее внимание.

В последнее время поднялась волна протестов против манипуляций политическими настроениями пользователей. Участились призывы защитить демократию от пропаганды. Twitter удаляет подозрительные аккаунты десятками миллионов, а власти стран Запада предлагают запретить политических ботов и ввести меры, обеспечивающие прозрачность в соцсетях. Казалось бы с автоматизированной интернет-пропагандой вскоре будет покончено.

Отчасти это действительно так: тактика ботов потеряла эффект новизны и никогда не обладала изяществом. Ее сила была в числе. Пропагандисты выпускали огромные армии ботов, чтобы те затопили интернет нужными постами. Усовершенствовав технические контрмеры, представители проекта Computational Propaganda упростили обнаружение ботов. Да и сами люди стали внимательнее относиться к контенту.

Однако стремительно развивается новое поколение ботов. Их успехи в большой степени — заслуга технологии обработки естественного языка, той самой, которая дала нам голосовых помощников Alexa, Cortana или Google Assistant. Теперь боты ведут себя намного правдоподобнее. И если про Siri или Алису мы знаем, что они виртуальные, то боты-пропагандисты не будут раскрывать свою природу. Технология уже почти позволяет это, как доказал пример Google Duplex.

Через несколько лет боты смогут выискивать подходящих пользователей и обращаться к ним напрямую через личные сообщения. Они смогут элегантно направлять русло разговора и анализировать ответы собеседника, чтобы манипулировать им на более тонком уровне.

Сначала они заслужат его доверие, а потом станут аккуратно подталкивать к нужным заказчику политическим взглядам, пишет MIT Technology Review.

Пока создание действительно интеллектуального бота требует значительных знаний, вычислительных мощностей и данных для обучения. Значительных, но не недосягаемых. С 2010 года политические партии и правительства потратили свыше полумиллиарда долларов на манипуляции социальными медиа, превратив это в хорошо финансируемый и профессиональный сектор. Как и с любой другой инновацией, как только технологии ИИ будут готовы, политические боты непременно выйдут за рамки тех задач, для которых их предназначали.

Тем временем правозащитники из организации Electronic Freedom Foundation считают, что раз боты научились разговаривать, у них должна быть свобода слова. И они не обязаны представляться как машины во время разговора с человеком.