Алгоритмы генерации текстов уже стали достаточно эффективными, чтобы выдавать себя за людей. Они пишут новости, разговаривают с клиентами на сайтах, рассуждают о спорте и финансах. Параллельно растет число случаев использования ботов для генерации постов в соцсетях. В 2017 Федеральная комиссия по связи США решила узнать мнение граждан о планах по прекращению действия сетевого нейтралитета.
В ответ было получено 22 млн комментариев. Около половины были сделаны из-под украденных аккуантов. 1,3 млн из них были грубо сляпаны при помощи одного и того же шаблона. Проблема в том, что с тех пор качество таких текстов заметно выросло.
В недавнем эксперименте гарвардский специалист Макс Вайс использовал программу генерации текста, чтобы создать 1000 комментариев в ответ на правительственное заявление. Все они были уникальными и походили на высказывания настоящих людей.
Чатботы вмешиваются в дискуссии людей в соцсетях на протяжении уже ряда лет. По некоторым данным, около одной пятой всех твитов о президентских выборах в США и одной трети высказываний о брекзите принадлежали им. Оксфордский институт интернета сообщает, что в прошлом году боты распространяли пропаганду в 50 странах мира, пишет Atlantic.
При этом измерить реальное влияние чатботов сложно. Аналитики утверждают, что они не оказали значимого воздействия на президентские выборы в США 2016 года.
Их пагубное воздействие проявляется иначе: они заставили людей испытывать недоверие к публичным высказываниям в целом, разрушили их веру в открытие и разумные политические дебаты.
Похоже, что мы все сейчас находимся в центре нового социального эксперимента. Вскоре искусственные пользователи смогут писать письма в газеты и обращения к избранным представителям, отстаивать свое мнение в продолжительных дебатах в сети. Отличить их от людей будет крайне сложно, и при этом они смогут работать круглые сутки, рассылая миллионы сообщений. В итоге они будут в состоянии направить в нужную сторону любые дебаты в интернете.
Наиболее действенной защитой кажется усиление мер по аутентификации пользователей. Однако эта мера идет вразрез с желанием многих пользователей интернета сохранить свою анонимность, особенно когда они представляют угнетаемое меньшинство.
Пока в нашем распоряжении нет метода идентификации, который одновременно защищал бы приватность и отсеивал чатботов.
Другое решение — отказ от технологий в политических дискуссиях и возвращение к дебатам лицом к лицу. Если общество выберет этот путь, это будет культурный сдвиг нового типа: прочь от интернета и текста к живому диалогу. Но сейчас этот вариант кажется нереалистичным.
Есть и третий вариант: ИИ перестанет скрываться в тени и открыто возьмет на себя управление государством. Четверть жителей Европы считают, что это было бы правильно.
