Logo
Cover

Письмо-клятву с призывом к властям полностью запретить создание летального автономного ИИ-оружия подписали 160 компаний и 2400 ученых и предпринимателей, в их числе Илон Маск, сооснователь DeepMind Демис Хассабис и его команда и проект Google Xprize Foundation. Сами они обещают не вести подобных разработок. Но уверены, что гарантии нужны на государственном уровне. Иначе рано или поздно машины научатся убивать людей.

721

Письмо-клятва было представлено на конференции по искусственному интеллекту, организованной некоммерческой организацией Future of Life Institute, возглавляет которую физик Макс Тегмарк. Он неоднократно призвал с осторожностью относится к возможностям ИИ, ведь научиться на собственных ошибках в этом случае не выйдет.

Письмо, указывающее на одну из очевидных опасностей, подписано 2400 частными лицами и 160 компаниями. Группа преследует светлые цели — избавить человечество от нового поколения смертельного оружия.

Маск, Хассабис и сотрудники Google Xprize Foundation подчеркивают, что ИИ-оружие, совмещенное с системами сбора данных, распознавания личности и другими информационными технологиями, станет опасным инструментом тирании и насилия.

«Решение об убийстве человека никогда не должно приниматься машиной», — на этом требовании строится письмо.

«Меня радует, что лидеры мирового ИИ-рынка переходят к четким действиям, реализуя ту политику, с которой официальные чиновники медлят, — говорит президент Future of Life Institute Макс Тегмарк. — ИИ обладает огромным потенциалом для помощи миру, но только в том случае, если мы жестко сформулируем и стигматизируем его, ограничив возможности для его злоупотребления».

По опасности и «отвратительности» Тегмарк сравнивает ИИ-оружие с биологическим. И бороться предлагает тем же способом — то есть полностью запретить.

Письмо опубликовано в то время, как крупные компании, вроде Google или Amazon, все чаще сталкиваются с негативом со стороны общественности из-за связей с государственными агентствами и контрактов с силовыми ведомствами. Например, Google за реализацию оплаченного Пентагоном проекта Maven раскритиковали собственные сотрудники. Его цель — использование ИИ для классификации изображений, снятых дронами. Amazon поделилась технологиями распознавания лиц с правоохранительными органами США, за что тоже подверглась критике, передает Engadget.

При этом представители компаний подчеркивают, что в их разработках нет никакой связи с оружием или механизмами, которые могут привести к дискриминации. Google ссылается на свои корпоративные принципы. В политике компании говорится, что она не будет разрабатывать или помогать развертывать ИИ, который можно использовать как оружие, как инструмент слежки или для любых других целей, которые противоречат принципам международного права и правам человека.

Microsoft тоже объявила, что не предоставляет никаких технологий слежки госагентствам. А ее президент и вовсе написал письмо, требуя ограничить применение технологии распознавания лиц.

Стоит напомнить, что Илон Маск — один из главных инвесторов Future of Life Institute. В 2015 году он пожертвовал институту $10 млн на исследование проблем ИИ. А алармистское отношение Маска к ИИ известно на весь мир. В прошлом году у него был достаточно продолжительный спор в соцсетях с Марком Цукербергом. В нем они обвиняли друг друга в полном непонимании темы. Цукерберг заявлял, что отношение Маска к ИИ вредит всей индустрии. Точек соприкосновения они не нашли, но оба получили возможность изобразить, что переживают за будущее ИИ и человечества в целом.

Что-то похожее происходит и от имени Future of Life Institute. Такие проекты — хорошая рекламная площадка для ИТ-гигантов, которые в глазах скептиков несут клеймо корпораций зла. В момент подписания таких коллективных писем они показывают, что они, конечно, сотрудничают с государствами, но интересы отдельного человека — якобы всегда во главе угла.

Но пока полноценного и самостоятельного ИИ нет даже и в помине, и даже самую автономную систему запускает человек. Так что нынешние алгоритмы сложно уличить в заговоре против человечества.