Ассоциация вычислительной техники (ACM) — крупнейшая и старейшая международная организация в компьютерной области — обратилась к законодателям с просьбой немедленно прекратить использование технологии распознавания лиц правительственными структурами и частными компаниями. Причина в задокументированной этнической, расовой и гендерной предвзятости, которую проявляют эти системы. В письме, опубликованном Комитетом по технологической политике США (USTPC), группа авторов признает, что в будущем эта технология станет лучше, но пока она «недостаточно зрелая» и угрожает правам человека, сообщает VentureBeat.
«Последствия такой предвзятости, — говорится в обращении, — зачастую выходят за рамки неудобства и приводят к серьезному ущербу, в частности, жизни, имущественному положению и фундаментальным правам личностей из определенных демографических групп, включая наиболее уязвимые слои населения».
В прошлом с подобными заявлениями выступали менее многочисленные и влиятельные организации, вроде Американского союза защиты гражданских свобод или Лиги алгоритмического правосудия, но впервые в поддержку запрета технологии распознавания лиц выступила ассоциация, объединяющая почти 100 000 профессионалов в области компьютерной техники.
Одно из доказательств некорректной работы технологии — заявление главы полиции Детройта (США) Джеймса Крейга о том, что программа, распознававшая лица, ошибалась в 96%. «Если бы мы опирались только на программу, мы бы не раскрывали от 95 до 97% дел», — сказал он.
Кроме того, авторы перечислили в письме принципы этичного распознавания лиц. К ним относятся:
Следует подчеркнуть, что обращение не призывает к перманентному запрету распознавания лиц, но требует временного моратория, пока созреют стандарты точности, а также законы и нормативы.
В начале года произошло самое масштабное скоординированное действие по запрету распознавания лиц — 40 общественных организаций США выступили с таким призывом, узнав о том, что правительство скрытно собрало базу портретов из 3 млрд изображений и широко ее использует.
