Logo
Cover

В режиме секретности разработку военных роботов ведут британские университеты и оборонные предприятия. Военные уверяют, что алгоритмы-убийцы всегда будут подчиняться людям. Но эксперты считают иначе.

Согласно официальным заявлениям, правительство Великобритании не владеет полностью автономными системами вооружения и не планирует разрабатывать их в будущем. Однако британская организация Drone Wars UK опровергла эту информацию. 

В течение года эксперты вели расследование, собирая сведения в открытых источниках и подавая запросы в государственные ведомства. Оказалось, что министерство обороны и связанные с ним предприятия финансируют более десятка проектов по разработке боевого автономного вооружения. В процесс также вовлечены британские университеты.

«Несмотря на публичные заявления правительства, явные свидетельства указывают, что министерство активно вовлечено в создание смертоносной автономной техники для применения в военных целях», — заключают авторы отчета.

Они подчеркивают, что еще минимум три страны — США, Китай и Россия — создают аналогичные системы вооружения на базе искусственного интеллекта. И, возможно, они даже превосходят британские.

Секретные проекты

Один из проектов, который финансируют Министерство обороны, связан с разработкой «технологии управления на основе когнитивного прогнозирования». Как поясняет Guardian, программа собирает большие массивы данных и с помощью нейросетей оценивает вероятность событий. Систему испытывают на базе Королевских военно-воздушных сил Уайтон в Кембриджшире.

Аналитики Drone Wars утверждают, что методика позволяет собирать текстовые данные из различных источников, включая публикации в Facebook и Twitter. При этом человек никак не контролирует отбор и обработку информации — эти задачи полностью берет на себя алгоритм.

Авторы отчета предупреждают, что ИИ может собрать некорректные данные, неверно их интерпретировать и принять ошибочное решение. Также есть риск, что система автономного вооружения выйдет из-под контроля человека из-за сбоя или поломки, и машина самостоятельно санкционирует и проведет атаку.

Боевая техника с таким функционалом уже существует. Исследователь Питер Берт приводит в пример дрон Taranis от BAE Systems. Сверхзвуковой летательный аппарат способен «глубоко внедряться во вражескую территорию, обнаруживать цель, оказывать на нее воздействие, оценивать эффект и предоставлять разведывательные данные управлению». 

Министерство обороны Британии признавало, что такая система способна работать полностью автономно без участия человека. Более того, ведомство отмечало, что обозримом будущем беспилотники будут самостоятельно находить цель и атаковать ее. Однако такая технология появится не раньше 2030 года.

Расследование Drone Wars доказывает, что исследования уже проводятся, и в них вовлечены десятки организации.

Аналитики подчеркивают, что с 2015 года Британия не поддерживает запрет роботов-убийц, который лоббирует ООН.

Но Министерство обороны по-прежнему настаивает на том, что в Британии автономного вооружения нет и не будет, а роботы и алгоритмы никогда не смогут принимать решения самостоятельно. Сценарии хакерской атаки или ошибки военные пока не рассматривают.

В августе Россия выступила против юридических запретов на разработку роботизированного оружия. Тогда МИД заявило, что технологии находятся на ранней стадии развития и ограничивать их пока не имеет смысла.

В Европарламенте считают иначе. В сентябре европейские чиновники приняли резолюцию, призывающую запретить разработку и использование роботов-убийц. На уровне ООН решение так и не было принято, поскольку лидеры государств не смогли прийти к консенсусу. Против выступили не только Россия, но и США, Израиль, Южная Корея и Япония — страны, для которых военная робототехника становится все более прибыльным бизнесом.