Меры распространяются на продукты и услуги, использующие технологии ИИ для имитации человеческих черт, моделей мышления и стилей общения, а также обеспечивающие эмоциональное взаимодействие с пользователями через текст, изображения, аудио или видео.

Документ прямо запрещает создание и распространение контента, который угрожает национальной безопасности, наносит ущерб национальной чести, подрывает этническое единство, пропагандирует незаконную религиозную деятельность, распространяет слухи, нарушающие экономический или социальный порядок, а также включает порнографию, азартные игры, насилие или подстрекательство к преступлениям.

Особое внимание уделено контенту, способному нанести вред психическому или физическому здоровью пользователей. Проект запрещает поощрение самоповреждений, словесные оскорбления и эмоциональные манипуляции, которые могут подрывать достоинство пользователей.

Поставщики ИИ-сервисов должны информировать пользователей о том, что они взаимодействуют с искусственным интеллектом, а не с человеком, и выдавать всплывающие напоминания при признаках чрезмерной зависимости или при первом входе в сервис.

Линь Вэй, президент Юго-Западного университета политических наук и права и вице-президент Китайского юридического общества, отметил, что антропоморфный ИИ делает взаимодействие человека и машины более эмоциональным и персонализированным. Он предупредил, что без должного регулирования такие технологии могут нарушать права граждан и подрывать социальный порядок.

По мнению Линя, опубликованный проект соответствует национальным стратегическим приоритетам и создает системный подход к управлению рисками. Он устанавливает многомерную систему контроля на ключевых этапах разработки и внедрения сервисов. Это обеспечивает подотчетность и более безопасное, справедливое и устойчивое развитие антропоморфных ИИ в Китае.