Hitech logo

Кейсы

Facebook тайно присваивает пользователям рейтинг благонадежности

TODO:
Дарья Бердникова22 августа 2018 г., 11:20

Для борьбы с фейковыми новостями соцсеть пользуется тысячами алгоритмов, и рейтинг — это только один из них. Однако механизмы присвоения оценки не афишируются.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Facebook в попытке справиться с манипуляциями общественным мнением дошел до того, что начал присваивать пользователям рейтинг благонадежности — от 0 до 1. Об этом сообщает Washington Post. Тесса Лайонс, ответственная за это направление работы в компании, просит не придавать рейтингу слишком большое значение.

IT-гиганты давно используют алгоритмы, чтобы предугадать поведение аудитории — например, захочет ли пользователь купить тот или иной продукт и использует ли он никнейм. На фоне подозрений о том, что российские власти могли с помощью соцсетей повлиять на итоги выборов президента США, Facebook и Twitter пришлось совершенствовать свои механизмы, чтобы избежать манипуляций в будущем.

В результате в 2015 году у пользователей появилась возможность пожаловаться на публикацию, если они считали ее вводящей в заблуждение.

Однако очень часто люди пользовались этим не по назначению и жаловались на добросовестных авторов только потому, что были с ними несогласны. Тогда Facebook решил усовершенствовать алгоритм и стал оценивать, насколько пользователь заслуживает доверия.

«Например, если кто-то раньше заявлял, что какая-то публикация — ложь, и факт-чекер это подтверждал, мы будем доверять жалобам этого пользователя больше, чем того, кто много раз писал жалобы, которые не подтверждались», — пояснила Тесса Лайонс.

Этот рейтинг — только один из тысячи критериев, по которым Facebook оценивает своих пользователей. Лайонс отказалась раскрыть подробности о том, как этот рейтинг используется и какие еще механизмы оценки существуют.

«Не знать, как именно Facebook нас оценивает, неуютно. Но ирония в том, что они не могут рассказать нам, как это происходит: если они это сделают, их алгоритмами научатся манипулировать», — поясняет специалист по дезинформации Клэр Уордл, директор исследовательской лаборатории в Гарвардской школе Кеннеди, которая помогает Facebook c проверкой фактов в публикациях.

Основателя Facebook Марка Цукерберга обвиняют в том, что его соцсеть — цифровой монстр, пагубно влияющий на демократию и общество. Например, исследователи из Уорикского университета в Англии пришли к выводу, что активное использование Facebook приводит к ксенофобии, сообщает New York Times.

Ученые проанализировали криминальные сводки и другие данные из немецкого городка Альтена и выяснили, что как только Facebook-активность в населенном пункте становится выше средней по стране, количество атак на беженцев увеличивается на 50%.