Как отмечает Associated Press, все больше работодателей — от сетей быстрого питания до банков на Уолл-Стрит — полагаются на автоматизированные инструменты, которые ускоряют поиск потенциальных сотрудников, прием на работу и оценку существующих рабочих мест. Алгоритмы ставят собеседования и анализ соискателей на поток — компании-разработчики уверены, что их модели способны определить ключевые навыки и личность будущего работника по тому, как он общается, что пишет в социальных сетях и где работал ранее.

С ростом спроса на HR-алгоритмы у американских законодателей возникли вопросы касательно того, насколько объективен ИИ при выборе кандидатов. По мнению авторов нового законопроекта, некоторые алгоритмы искажают отбор в пул кандидатов по заданным критериям и неверно интерпретируют характеристики высококвалифицированных специалистов. Чтобы избежать подобных проблем в будущем, Городской совет Нью-Йорка разработал и одобрил соответствующий акт.

Законопроект запрещает использовать системы ИИ, которые не проходят ежегодный аудит на предвзятость и не соответствуют «стандартам прозрачности» — работодатели и соискатели должны понимать, как работают алгоритмы и по какому принципу отбираются определенные кандидаты. В дополнение крупные организации не смогут отказаться от обычных HR-менеджеров — предприятия будут обязаны предоставить специалиста-человека по первому требованию соискателя. За невыполнение описанных требований предусмотрен штраф — $1,5 тыс. за каждый инцидент.

Мнения экспертов о законопроекте разошлись — одни положительно восприняли новый закон, другие заявили, что Совет недостаточно серьезно относится к опасности, которую представляет ИИ. Так, президент Центра демократии и технологий Александра Гивенс считает, что расплывчатые формулировки законопроекта могут дать частному сектору карт-бланш на использование алгоритмов так, как они этого хотят.

«Аудит на предмет предвзятости — это хороший подход. Проблема в том, что Нью-Йорк принял очень слабый и расплывчатый стандарт того, как это должно работать», — заявила Гивенс и добавила, что таким образом поставщики ИИ получили «фиговый лист», чтобы прикрыть им создание опасных продуктов.

Стоит отметить, что перед вступлением законопроекта в силу, он еще должен быть подписан мэром Нью-Йорка Биллом Де Блазио. У администрации Де Блазио есть месяц на то, чтобы проанализировать предложение Городского совета и принять окончательное решение, касательного того, как алгоритмы будут работать, начиная с 2023 года. При этом офис мэра предварительно подтвердил, что поддерживает новую инициативу.