Logo
Cover

Политические события, личные драмы и даже последовательность рассмотренных дел оказывает влияние на решение судьи. Часто человек не замечает воздействия предубеждений, но от машинного обучения эти нюансы не скроются.

Десятки внешних факторов оказывают влияние на решение судей в США, причем большинство из них не имеют прямого отношения к делу. На это указывают предварительные результаты исследования, проведенного экспертом в области права Дэниэлом Ченом из Университета Тулузы (Франция).

Оказалось, что судьи подвержены «заблуждению игрока». Этот феномен заставляет человека сомневаться в своем решении, если до этого он выносил несколько похожих суждений подряд.

К примеру, если суд рассматривает дело о предоставлении убежища и выносит серию одобрительных решений, в следующий раз судья подумает, что стал слишком снисходительным. И человек получит отказ, хотя его просьба не менее обоснована. 

Чен также обнаружил, что окружные суды подвержены влиянию президентских выборов, проходящих в стране. 

В интервью Verge исследователь рассказал об эксперименте, который доказывает: предсказать исход разбирательства можно еще до начала рассмотрения дела.

Для этого достаточно составить базу внешних факторов и подвергнуть ее анализу с помощью системы на базе машинного обучения. «Мы пришли к выводу, что судьи принимают решения спонтанно и чаще полагаются на эвристический подход, чем на факты», — заключил Чен. 

Дорога к справедливому суду

Юрист предлагает создать алгоритм, который будет заранее анализировать вероятность предвзятости и предупреждать судью о возможных рисках. Система предложит еще раз обдумать кейс и уделить ему несколько дополнительных часов или даже дней. 

В идеале датасет должен содержать историю прошлых решений судьи, а также сумму внешних факторов.

Согласно ряду исследований, на которые ссылается Чен, на решение судьи влияют настроение, погода, успехи спортивных команд на крупных соревнованиях и даже день рождения ответчика.

Чен надеется, что в будущем ИИ будет вызывать больше доверия и его чаще будут применять в юридической сфере. Проблема в том, что люди не хотят подвергаться анализу со стороны алгоритмов. Каждый считает себя уникальной личностью, поступки которой невозможно подвести под единую базу данных.

Об этой проблеме пишет историк Юваль Ной Харари, автор книги Homo Deus. Он отмечает, что концепция свободы воли устарела, но человечество по-прежнему продолжает в нее верить. «Сознание человека так же легко взломать, как компьютер», — уверен футуролог.

Перспективы юридического ИИ

Несмотря на риски, системы на базе ИИ уже проникают в юридическую сферу. Осенью Школа права Гарвардского университета открыла доступ к миллионам судебных дел для обучения ИИ-юристов. Некоторые алгоритмы уже превосходят людей в точности и скорости принятия решений.

Но полностью автоматизировать работу специалиста пока нельзя. По оценкам McKinsey, только 22% задач эксперта в области права можно поручить искусственному интеллекту. Среди мелких судебных клерков этот показатель выше — 35%. По этой причине многие стартапы делают ставку на автоматизацию рутины, например, обработку документов и подачу исков