Logo
Cover

Алгоритмы пока не в состоянии разобраться в нюансах языка и потому не могут с точностью выявлять оскорбительный и противоправный контент в сообщениях пользователей популярного форума, считает Стив Хаффман.

Глава Reddit в переписке с пользователем заявил, что не будет даже пытаться вводить цензуру. ИИ проще говорить самому, чем различать сарказм и «риторику ненависти» в постах людей. Более щепетильные конкуренты Reddit вынуждены использовать для модерации контента армии цензоров-людей.

Диалог о границах допустимой дискуссии с Хаффманом затеял пользователь Reddit Захари Суонсон. Скриншоты диалога он выложил в открытый доступ, за что немедленно получил бан в связи с «харрасментом». Ознакомиться с ними можно на Huffington Post. Выяснилось, что Хаффман не хочет карать пользователей сервиса за «риторику ненависти». Суонсону он объяснял, что Reddit запрещает «риторику насилия», но при этом стремиться разграничивать слова и действия пользователей.

Verge обращает внимание на тот аспект, что выявление «риторики ненависти» было бы хорошо поручить ИИ. Однако пока это задача, по крайней мере в представлении Хаффмана, непосильна для алгоритмов.

Для главы Reddit ответ на вопрос пользователя о цензуре — это выбор между принципиальным отказом от ограничения свободы слова и привлечением армии модераторов.

Большинство соцсетей и крупных сервисов пользовательского контента пошли по второму пути — это Facebook, Instagram, Twitter, Google Plus, YouTube, Tumblr, LinkedIn. Автоматизировать работу тысяч модераторов-людей им пока удается весьма ограниченно.

По оценке Financial Times, 18 самых посещаемых сайтов ежегодно тратят на армию людей-цензоров астрономическую сумму — $2,5 млрд.

Впрочем, в Китае, где армия интернет-цензоров наиболее велика, а использование ИИ обещает значительно большую экономию, алгоритмы уже забирают рабочие места у людей. При этом наиболее широко использует ИИ-цензуру популярный сайт для видео-стриминга iQiyi. Очевидно, распознавать изображения машинам проще, чем нюансы языка.

В России вскоре тоже можно будет проверить ИИ на правильность восприятия живого языка: на этой неделе начались продажи «Яндекс.Станции» — умной колонки, которая понимает указания хозяина благодаря голосовому помощнику Алисе.


Подписка — специальный, самый
полезный формат Хайтек+

Ключевые темы и отдельный блок новостей не повторяют материалы сайта. Экономит время, гибкие настройки, адаптируемый объем, в удобное время. Вам понравится!

Оформляя подписку, вы соглашаетесь с политикой обработки персональных данных
Поздравляем! Вы подписаны