Калифорния стала первым штатом Америки, который отменил денежный залог в качестве меры пресечения. Гражданские активисты несколько лет лоббировали введение законопроекта, а в январе Апелляционный суд Калифорнии признал систему неконституционной, поскольку она ставит граждан с низкими доходами в более уязвимое положение.
Текущее законодательство штата позволяет подозреваемым выходить под залог, сумма которого варьируется в зависимости от тяжести преступления и наличия предыдущих судимостей. К началу октября 2019 года систему упразднят, а вместо нее введут алгоритмическое предсказание рисков.
Мелких нарушителей будут отпускать в течение 12 часов после заключения под стражу — для этого даже не придется встречаться с судьей.
Остальным подсудимым придется пройти через проверку. Алгоритм прогнозирования преступлений изучит биографию человека и количество прошлых судимостей, чтобы определить степень риска.
Если ИИ установит низкую или среднюю степень риска, то подсудимого отпустят на свободу до рассмотрения дела. Под стражей останутся только те, кто представляет опасность для общества и подозревается в насильственных преступлениях. Их дела судья рассмотрит в индивидуальном порядке и, возможно, выберет другую меру пресечения.
Каждый округ штата будет самостоятельно выбирать поставщика алгоритмов или разрабатывать систему своими силами. Как именно будут оценивать надежность программ от сторонних разработчиков, пока неясно.
Как отмечает Washington Post, многие американцы критикуют законопроект. По их мнению, алгоритмическая оценка существенно не отличается от залога, поскольку так же ставит граждан в неравные условия.
ИИ генерируют прогнозы на основе примитивных баз данных и в результате выносят предвзятые суждения. Так, эксперименты доказывали, что искусственный интеллект чаще относит афроамериканцев в группу повышенного риска. В результате личные особенности подозреваемых и осужденных не учитываются — решающую роль играет их расовая принадлежность.
Алгоритмы также часто дают более положительную оценку состоятельным гражданам. Часто система оценивает риски, исходя из места жительства человека. Проживание в неблагополучном районе, неполная семья, место работы — все эти факторы могут повлиять на решение ИИ.
Сторонники реформы утверждают, что теперь решения суда станут более справедливыми, а финансовое благосостояние подсудимого не будет влиять на судебные процессы. Оценку новому законопроекту дадут спустя четыре года после принятия в 2023 году.
При оценке современных систем прогнозирования преступлений футурологи все чаще ссылаются на фильм «Особое мнение», в котором людей задерживали еще на этапе планирования убийства или ограбления. Пока в США и Европе большей популярностью пользуются алгоритмы для предсказания рецидивизма, но некоторые компании уже создают системы для профилактики нарушений. На каждого жителя собирают досье, после чего данные сопоставляют и определяют, кто именно готов перейти черту в любой момент.
