Hitech logo

Тренды

Власти Китая возьмут под контроль работу любых алгоритмов в стране

TODO:
Степан Икаев29 августа 2021 г., 10:40

Власти Китая намерены превратить работу любых алгоритмов в стране в полностью прозрачную систему — разработчики больше не смогут бесконтрольно собирать любые данные, влиять на выбор своих клиентов и использовать ПО для борьбы с конкурентами. Законопроект в котором содержится 30 четких требований к разработке алгоритмов пройдет общественное обсуждение в течение одного месяца — до 26 сентября — после чего будет принято решение о внедрении новых стандартов.

00
Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Администрация киберпространства Китая (CAC) представила проект из 30 пунктов с «правилами управления рекомендациями по алгоритмам». Эти правила могут напрямую затронуть ByteDance, Tencent Holdings, Kuaishou Technology и другие ведущие ИТ-компании Китая, а также зарубежные компании, работающие в Китае, в частности, Apple. Проект запрещает действия, «поощряющие зависимость или высокое потребление», а также любые системы, которые ставят под угрозу национальную безопасность или нарушают социальный и экономический порядок страны, сообщает Bloomberg.

«Если ИИ — это мозг робота, то RPA — его руки». Что умеют программные роботы

Согласно законопроекту, компании должны будут раскрывать основные принципы любой службы рекомендаций, которая работает на базе алгоритмов машинного обучения. Разработчик будет обязан развернуто объяснить, как и зачем система обрабатывает информацию и выдает пользователям те или иные рекомендации «в явной манере». При этом разработчики любых алгоритмов должны будут предоставить своим пользователям «удобные варианты отключения рекомендаций по алгоритмам» и немедленно выполнять требования об отказе от их использования.

Алгоритмы также больше не смогут быть использованы для ценовой дискриминации на основе предпочтений и привычек пользователей.

Администрация киберпространства предлагает поставщикам регулярно оценивать и тестировать свои алгоритмы и данные, чтобы избегать моделей, которые будут даже косвенно влиять на поведение пользователей. Даже если работа платформ ИТ-компаний непредумышленно скажется на частных пользователях, регулятор засчитает это за нарушение новых правил.

Алгоритмы также нельзя будет использовать для создания фальшивых учетных записей или ложного влияния на ранжирование и результаты поиска, чтобы принести пользу поставщику, повлиять на онлайн-дискурс или избежать надзора со стороны регулирующих органов.

Ранее в этом месяце Всекитайское собрание народных представителей одобрило связанный законопроект, посвященный защите конфиденциальных данных. Последний акт, который вступит в силу 1 ноября 2021 года, запретит обработку личных данных без согласия пользователей, а также обяжет организации сотрудничать в этой области с госорганами.