Серая зона в законе
Согласно законодательству США, правами на свободу слова и вероисповедания обладают не только люди, но и корпорации. Однако для признания этого факта потребовалось несколько прецедентов в суде и поправки к закону. Как отмечает специалист по компьютерным наукам Роман Ямпольский, некоторые пытаются наделить правами алгоритмы незаметно, так чтобы этот процесс остался за кадром и не регулировался.
С подобной инициативой выступает специалист в области права Шон Бэйер. По его мнению, каждый может наделить алгоритм юридическими правами — для этого достаточно поставить ИИ во главе ООО.
Достаточно создать две компании с ограниченной ответственностью, а затем поручить контроль над ними ИИ. После этого человек вводит оба предприятия под управление еще одного ООО, а сам слагает с себя все полномочия. В итоге корпорация со всеми ее правами переходит в руки алгоритму.
«Если суд признает [действия Бэйера законными], то системы на базе искусственного интеллекта смогут владеть собственностью, подавать иски, нанимать юристов и наслаждаться свободой слова», — пишет Ямпольский в своей колонке в журнале Conversation.
Роботы-надзиратели и бесправные люди
Ямпольский выступает против наделения ботов правами, поскольку такая практика угрожает человеческому достоинству. Он приводит в пример робота Софию, которая получила гражданство в Саудовской Аравии, будучи машиной с примитивным подобием интеллекта. В это же время многие жительницы страны вынуждены бороться за свои права и сталкиваться с небывалыми ограничениями: так, лишь недавно законодатели страны разрешили женщинам садиться за руль.
«В некоторых странах у людей меньше прав, чем у простейших роботов и ПО», — подчеркивает специалист по компьютерным наукам. Он указывает, что многие корпорации обладают большей свободой слова, вероисповедания и выражения сексуальности, чем люди.
Если же ИИ выйдет за рамки примитивности и сравняется по своим способностям с человеком, то он получит новые права. Алгоритмы имеют все шансы превратиться в судей, присяжных, надзирателей и даже палачей. У военных роботов прав будет еще больше, и они смогут вершить «правосудие» бесконтрольно, даже если ради этого придется нарушить условия международного права.
«Законодательство в большинстве случае не предусматривает наказания для роботов. Нет механизмов, которые заставляли бы андроидов нести ответственность».
В некоторых случаях алгоритмы с теми же правами, что и у человека, могут подорвать целую систему. Так, выборы потеряют всякий смысл, поскольку ИИ-агенты смогут множиться и влиять на количество голосов.
Цифровое бессмертие
Еще одна особенность алгоритма — это его бессмертие, пишет Ямпольский. За время своего существования система на базе ИИ способна заработать крупное состояние. Для этого достаточно автоматизировать процессы извлечения прибыли и нанять дешевую рабочую силу. Накопленное богатство алгоритм никому не завещает, но зато сможет потратить его на поддержку политических кандидатов или партий.
«Политики, получившие поддержку алгоритмов, смогут уничтожать юридические институты, объявлять импичмент президентам и назначать ставленников в Верховном суде».
Американская организация Electronic Freedom Foundation, напротив, считает, что «негуманно» лишать роботов базовых прав. Если боты научились разговаривать, значит, они должны автоматически получить свободу слова.
Представители объединения считают, что боты в голосовом или текстовом чате не обязаны сообщать человеку, что на самом деле представляют собой цифровых собеседников. В Калифорнии активистов не поддержали: там с 1 июля 2019 года всех чатботов обяжут представляться, прежде чем вступать в диалог с человеком.
