Некоммерческая организация из Нидерландов Pax в новом отчете призывает страны договориться о запрете автономных боевых систем на основе искусственного интеллекта. Прогресс здесь намного опережает здравый смысл, и вполне вероятно, что уже в следующей войне санкционировать убийства будут не только люди. А некоторые современные вооружения уже претендуют на то, чтобы называться полноценными «роботами-убийцами».
Quartz в своей публикации акцентирует внимание на двух моментах.
Во-первых, в отличие от Google или Amazon, не приходится надеяться, что протесты сотрудников традиционных оборонных подрядчиков как-то ограничат руководство. Сотрудники Pax направили запросы в 50 крупных оборонных предприятий в США, России, Израиле, Китае и Турции, и лишь из восьми получили ответ о наличии ограничений в области применения ИИ для военных нужд. И даже в этих сообщениях далеко не всегда указывалось, что человек должен «нажимать курок» — то есть санкционировать уничтожение цели. Минимум у трех десятков компаний подобных ограничений нет.
«Пока государства не согласуют какой-то режим регулирования или, в идеале, упреждающий запрет, вполне реален страх, что компании запрыгнут в этот поезд и будут разрабатывать, производить и в конечном итоге продавать оружие, которое человек не будет контролировать в достаточной мере», — заявил автор отчета Фрэнк Слайпер.
В оборонительных технологиях это уже вполне допустимо: автоматически открывает огонь, например, противоракетная система Aegis.
Второй важный момент: эксперты Pax уверены, что разработка летальных ИИ-систем идет прямо сейчас минимум в пяти странах мира. В России этим занимается «Ростех».
ИИ-снаряды
Слайпер считает наиболее вероятным появление летального ИИ на так называемых «медлительных боеприпасах» — гибриде дрона и ракеты, который может поджидать свою цель в зоне поражения.
Если считать это полноценным «роботом-убийцей», то они уже созданы. Слайпер указал на две разработки.
Первая — турецкой государственной оборонной компании STM. Это автономный атакующий дрон KARGU. Он оснащен системой распознавания лиц, и оператору достаточно выбрать цель предварительно. Quartz сообщает, что в ближайшее время дроны будут испытывать в Сирии.
Вторая разработка — Harpy, ракета-беспилотник класса «выстрелил и забыл» производства израильского государственного концерна Israel Aerospace Industries. Она поражает цели на расстоянии до 100 км, причем может находиться в воздухе до двух часов, ожидая появления цели, а затем взорвать ее в течение нескольких секунд.
В Pax уверены, что время принять меры пока есть. Но первый шаг видится невероятно сложным: компаниям предлагают самостоятельно разработать и согласовать корпоративную политику в отношении использующих ИИ средств уничтожения. Это, вполне вероятно, означает, что в реальных военных действиях преимущество получит сторона, которая не отягощена подобными ограничениями.
Один из самых последовательных сторонников запрета ИИ-убийств — бывший инженер Google Лора Нолан. Она работала над военным проектом Maven, после чего покинула компанию. И теперь, лично ознакомившись с перспективами и разработками, считает реальным риском массовое истребление мирного населения военными роботами или ядерный теракт с использованием дронов.
