Hitech logo

Искусственный интеллект

ЕС готовит полный запрет на использование ИИ в массовой слежке и социальном рейтинге

TODO:
Георгий Голованов15 апреля 2021 г., 16:55

Евросоюз обдумывает введение полного запрета на использование технологии искусственного интеллекта в целом ряде сфер, включая массовую слежку и социальный рейтинг. Официально об этом должны сообщить на следующей неделе, но документ уже циркулирует онлайн, сообщает сайт Politico. Если законопроект будет одобрен, ЕС обозначит свою жесткую позицию по отношению к ИИ, которая сильно отличается от позиции США и Китая.

00
Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Согласно законопроекту, страны-участники ЕС будут обязаны сформировать советы по оценке потенциально опасных систем ИИ. А компании, разрабатывающие и продающие запрещенные программы в ЕС — в том числе иностранные — будут оштрафованы на сумму до 4% от глобальных поступлений, если продолжат свою деятельность на территории Евросоюза, пишет Verge.

«Если ИИ — это мозг робота, то RPA — его руки». Что умеют программные роботы

Помимо этого, в предложении перечислены следующие меры:

  • Запрет на ИИ для «массовой слежки», в том числе, на системы, которые следят за людьми напрямую или собирают о них сведения из других источников.
  • Запрет на системы ИИ, которые создают баллы социального кредита, то есть оценивают чью-то благонадежность на основании социального поведения или личных качеств.
  • Специальное разрешение на использование систем удаленной биометрической идентификации вроде распознавания лиц в общественных местах.
  • Необходимость оповещения человека перед взаимодействием с ИИ, кроме тех случаев, когда это очевидно.
  • Контроль над опасными системами ИИ, включая те, которые несут прямую угрозу безопасности, как робомобили, и те, которые способны повлиять на средства к существованию человека, например, при приеме на работу, принятии юридических и финансовых решений.
  • Оценка несущих риск систем перед введением в эксплуатацию — они должны быть понятны стороннему наблюдателю и быть обучены на «высококачественных» данных.
  • Создание «Европейского совета по искусственному интеллекту», состоящего из представителей каждого национального государства, который будет помогать Еврокомиссии решать, какие системы ИИ считать опасными.

    • Неизвестно, какие изменения будут внесены в этот документ перед официальным оглашением 21 апреля. Но как только законопроект будет официально внесен на обсуждение, члены Европарламента смогут откорректировать его, прежде чем он отправится на голосование в каждое национальное государство.

    В начале прошлого года Еврокомиссия обсуждала запрет на использование технологии распознавания лиц в общественных местах сроком от трех до пяти лет. Исключения могли быть сделаны для исследовательских проектов, а также в целях обеспечения безопасности. Затем законодатели отказались от моратория. Вместо этого Еврокомиссия призвала каждую из стран-участницы ЕС установить собственные правила.