Logo
Cover

Ассоциация вычислительной техники (ACM) — крупнейшая и старейшая международная организация, объединяющая более 100 тысяч профессионалов в области IT, обратилась к конгрессу США с призывом ввести мораторий на применение технологии распознавания лиц на всей территории страны. Запрет должен быть временным, пока не появятся стандарты точности распознавания и независимый аудит. АСМ также сформулировала принципы этичного распознавания лиц.

Ассоциация вычислительной техники (ACM) — крупнейшая и старейшая международная организация в компьютерной области — обратилась к законодателям с просьбой немедленно прекратить использование технологии распознавания лиц правительственными структурами и частными компаниями. Причина в задокументированной этнической, расовой и гендерной предвзятости, которую проявляют эти системы. В письме, опубликованном Комитетом по технологической политике США (USTPC), группа авторов признает, что в будущем эта технология станет лучше, но пока она «недостаточно зрелая» и угрожает правам человека, сообщает VentureBeat.

«Последствия такой предвзятости, — говорится в обращении, — зачастую выходят за рамки неудобства и приводят к серьезному ущербу, в частности, жизни, имущественному положению и фундаментальным правам личностей из определенных демографических групп, включая наиболее уязвимые слои населения».

В прошлом с подобными заявлениями выступали менее многочисленные и влиятельные организации, вроде Американского союза защиты гражданских свобод или Лиги алгоритмического правосудия, но впервые в поддержку запрета технологии распознавания лиц выступила ассоциация, объединяющая почти 100 000 профессионалов в области компьютерной техники.

Одно из доказательств некорректной работы технологии — заявление главы полиции Детройта (США) Джеймса Крейга о том, что программа, распознававшая лица, ошибалась в 96%. «Если бы мы опирались только на программу, мы бы не раскрывали от 95 до 97% дел», — сказал он.     

Кроме того, авторы перечислили в письме принципы этичного распознавания лиц. К ним относятся:

  • Система распознавания лиц должна пройти независимый аудит и тщательную проверку со стороны правительства.
  • Люди должны быть поставлены в известность о том, что используется такая технология.
  • Организации, использующие эту технологию, должны нести ответственность за вред, причиненный ею.

Следует подчеркнуть, что обращение не призывает к перманентному запрету распознавания лиц, но требует временного моратория, пока созреют стандарты точности, а также законы и нормативы.

В начале года произошло самое масштабное скоординированное действие по запрету распознавания лиц — 40 общественных организаций США выступили с таким призывом, узнав о том, что правительство скрытно собрало базу портретов из 3 млрд изображений и широко ее использует.