Logo
Cover

Специалист в области искусственного интеллекта, основатель Центра совместимого с человеком ИИ при Калифорнийском университете в Беркли профессор Стюарт Рассел заявил, что его коллеги «напуганы» собственными успехами в этой сфере и сравнил прогресс в развитии ИИ с созданием атомной бомбы. Почти все эксперты считают, что еще в этом веке будут изобретены машины, превосходящие человека по интеллекту, сказал он и призвал к срочному регулированию этой технологии на международном уровне.

«Сообщество ИИ еще не привыкло к факту, что мы начали оказывать очень большое влияние на реальный мир, — сказал профессор Рассел в интервью Guardian. — На протяжении большей части истории этой отрасли такого не было — мы просто сидели в лабораториях, разрабатывали, пытались сделать так, чтобы оно заработало, чаще всего впустую. Так что вопрос реального воздействия на мир был совершенно неуместным. И нам нужно было очень быстро расти, чтобы не отставать».

Искусственный интеллект начал проникать во многие сферы жизни, от поисковых систем интернета до банков, и прогресс в распознавании изображений и машинном переводе — одни из главных достижений последних лет. Стюарт Рассел, который в этом году будет читать на радио ВВС цикл лекций под названием «Жизнь с искусственным интеллектом» («Living with Artificial Intelligence»), считает, что необходимо срочно обеспечить контроль над разработкой сверх-интеллектуального ИИ.

По мнению Рассела, ИИ, созданный для решения узких задач, слишком рискованно использовать для решения реальных проблем. К примеру, опасно просить ИИ как можно скорее решить проблему рака. «В таком случае он, скорее всего, найдет способ пересадить раковые клетки всему человечеству, чтобы провести миллионы экспериментов параллельно, используя всех нас как подопытных свинок, — сказал ученый. — И все потому, что это решение задачи, которую мы ему дали. Просто мы забыли уточнить, что нельзя проводить эксперименты на людях и использовать весь всемирный ВВП на проведение экспериментов, и еще много чего нельзя».

Профессор считает, что между нынешним ИИ и тем, который показывают в фантастических фильмах вроде «Ex Machina», все еще есть большая разница, но будущее, где машины умнее людей, вполне вероятно. «Думаю, что сроки варьируются от 10 лет, в самом оптимистичном сценарии, до нескольких сотен, — сказал он. — Но почти все исследователи ИИ скажут, что это произойдет в этом веке».

Проблема в том, что ИИ не нужно быть умнее человека, чтобы представлять для него серьезную опасность. За примерами далеко ходить не нужно — достаточно взглянуть на алгоритмы социальных сетей, решающие, что люди должны читать и смотреть. У них уже огромное влияние на восприятие людей. И разработчиков ИИ, по мнению Рассела, пугает собственный успех.

«Это немного напоминает то, что происходило в физике, когда ученые поняли, что атомная энергия существует, что они могут измерить массу различных атомов и понять, сколько энергии высвободится, если одни типы атомов превратятся в другие. А потом это произошло, и никто не был к этому готов», — пояснил Рассел.

Ученый убежден, что будущее ИИ лежит в развитии машин, которые, как вышколенные слуги, по всем вопросам обращаются к людям, не принимая решений самостоятельно. Следует исходить из того, что у разных людей могут быть различные — и иногда конфликтующие — предпочтения, и они меняются со временем. Он призывает ввести для разработчиков и организаций некий кодекс, обеспечивающий непредвзятость ИИ. Также следует распространить на весь мир действующий в ЕС запрет на маскировку машин под человека.

Через пять лет ИИ даст возможность алгоритмам «читать правовые документы» и «давать медицинские советы», считает сооснователь и президент некоммерческой организации OpenAI Сэм Альтман. Через десять машины массово встанут за конвейер и, возможно, даже станут компаниями. Еще позже ИИ будет делать почти все, включая научные открытия. В итоге ИИ создаст «феноменальное изобилие», но при этом цена труда упадет почти до нуля.