Технологический гигант пообещал регулярно публиковать отчеты о масштабах и эффективности проделанной работы по борьбе с нежелательным, запрещенным и незаконным контентом. Так, за первые три месяца 2018 года Facebook приняла меры по отношению к 3,4 млн размещенных пользователями изображений, содержащих сцены насилия. Под «мерами» в данном случае понимается вынесение предупреждения, а не удаление контента — по крайней мере, в большинстве случаев. На подобные материалы пришлось 0,22-0,27% просмотров. Это, однако, не означает, что 0,22% всех размещенных на Facebook изображений содержали сцены насилия. Речь идет именно о процентах от общего количества просмотров.
Были предприняты меры и по отношению к 21 млн материалов, содержащих изображения обнаженного тела и сексуальных сцен. На них пришлось 0,07-0,09% просмотров.
Facebook также запретила доступ к 1,9 млн материалов, содержащих призывы к террористической деятельности. Количество просмотров не указано, в отчете говорится лишь об их «предельно небольшом числе». Сообщается, что 99,5% таких материалов было обнаружено и изъято с помощью корпоративного ИИ, еще до того, как на них успели пожаловаться «живые» пользователи.
Также были приняты меры к 2,5 млн постам, содержащим высказывания, провоцирующие ненависть к определенным социальным или этническим группам. Соцсеть не сообщает, сколько такие высказывания набрали просмотров и уточняет, что все еще разрабатывает методы обнаружения подобного контента. С помощью алгоритмов было найдено всего 38% таких материалов, остальные заблокировали по жалобам пользователей.
В отчет не были включены данные о том, сколько было изъято материалов, содержащих детскую порнографию, сообщений о суициде, «порно из мести» (домашнего видео, выложенного в интернет с целью опозорить бывших партнеров), травли, харрасмента, а также нарушения конфиденциальности и авторских прав. Facebook, например, только разрабатывает алгоритмы выявления материалов с изображениями сексуальной эксплуатации детей. Подобный контент может содержаться даже в детских мультфильмах. Поэтому нужно не просто маркировать его, как «порно», но и следить, чтобы это не посмотрели дети, приняв за мультики, пишет Guardian.
В целом новые правила соцсети содержат подробный перечень недопустимых материалов объемом 8500 слов, где конкретно описывается, что имеется в виду под «насилием», «сексуальным контентом» и прочими неоднозначными понятиями, вроде «возбуждения ненависти» и «угроз».
