В 1964 в Штатах был принят Закон о гражданских правах, запрещающий дискриминацию при приеме на работу по половому или расовому признаку. Однако с появлением алгоритмов, помогающих сотрудникам отделов кадров принимать решения о найме, стали возникать опасения, что машины переймут у людей их предвзятое отношение к определенным категориям соискателей, ищущих новую работу.
Законопроект, предложенный правительством Нью-Йорка, пытается воскресить закон 1964 года в эпоху алгоритмов. Если его примут, он потребует от компаний сообщать соискателям, что их кандидатуры были отобраны с помощью программы. А компании, продающие такие инструменты, должны будут проводить ежегодный аудит, чтобы удостовериться, что их алгоритмы никого не дискриминируют, пишет Ars Technica.
Это предложение — часть недавней инициативы, затронувшей всех уровни органов власти в США, по созданию правовых препятствий алгоритмам и программам, принимающим важные для жизни решения.
Предложение встретило критику со стороны ряда правозащитников, которые считают, что оно не решает проблем дискриминации и лишь создает дополнительные сложности для компаний. Сторонники, приветствуя инициативу в целом, также озабочены тем, что законопроект недостаточно четко определяет требования для аудита.
Борьба с алгоритмами становится частью постоянной новостной повестки в стране. Уже свыше десятка городов США ввели запрет на использование технологии распознавания лиц, а штат Нью-Йорк недавно наложил двухлетний мораторий на применение этой технологии в школах. Некоторые законодатели предлагают также регулировать алгоритмы, которые используют корпорации для найма сотрудников.
Летом на заседании Сената США Берни Сандерс и Джефф Меркли представили проект закона о приватности биометрической информации, согласно которому частные компании не имеют право использовать технологию распознавания лиц для идентификации людей без их согласия или «в правомерных деловых целях», а также не могут этими данными свободно торговать. Законопроект может кардинально изменить развитие систем наблюдения на базе ИИ как минимум в США.
