Как это работает

По словам источников Reuters разрабатываемая ИИ-система работает примерно так:

1. ИИ в режиме реального времени получает доступ ко всему массиву спутниковых снимков территории вероятного противника;

2. Система анализирует снимки и засекает активность на стационарных ракетных позициях или перемещение мобильных комплексов, свидетельствующее о том, что они выдвигаются на боевые позиции;

3. Алгоритм подключает сторонние источники: анализирует данные разведки, последние заявления властей враждебных США стран и т. д.;

4. ИИ на основе всей имеющейся информации (самостоятельно!) принимает решение объявить тревогу о грозящем США или их союзникам ракетном нападении;

5. Выводы алгоритма поступают на рассмотрение аналитиков Пентагона, которые должны оперативно подтвердить их или опровергнуть;

6. Военное командование США принимает решение о том, достаточно ли оснований для военного удара по пусковым установкам противника.

«Мы должны находить готовую к запуску ракету и иметь возможность уничтожить ее еще до того, как она взлетит», — заявил один из чиновников-собеседников Reuters, поясняя задачи ИИ-системы предупреждения о ракетном нападении.

Гонка ИИ-вооружений

Reuters получил доступ к закрытым бюджетным статьям, в которых можно найти ассигнования на создание боевого ИИ. По некоторым данным, в этому году администрация Дональда Трампа более чем втрое увеличила финансирование соответствующих разработок — до $83 млн только по одной из программ разработки такого ИИ.

Эксперты отмечают, что эти суммы все еще незначительны и отстают от тех, которые предположительно тратят на военный ИИ — Россия и Китай. В Вашингтоне часто говорят, что подобные системы направлены на предотвращение ракетного удара со стороны государств-изгоев — прежде всего, Северной Кореи. Но гонку ИИ-вооружений США ведут не с такими странами, а с Россией и Китаем.

«То, что ИИ и машинное обучение позволяет вам делать в военной сфере, — это найти иглу в стоге сена», — говорит Боб Трейд, бывший до июля прошлого года заместителем министра обороны США.

Называть конкретные проекты по разработке аналога «Скайнета» он, впрочем, отказался, что неудивительно -все они засекречены.

Тем не менее, стало известно по крайней мере об одном прототипе ИИ-системы предупреждения о ракетном нападении, который разрабатывает одна из частных компаний, базирующаяся в Вашингтоне, округ Колумбия. По словам источника, эту разработку финансирует In-Q-Tel, венчурный фонд ЦРУ. Мы уже сообщали о том, что его интересы весьма широки. Фонд ЦРУ финансирует даже одного производителя велосипедов, потому что создатели этого стартапа разработали сверхэффективную технологию 3D-печати крупногабаритных деталей для самолетов (в том числе, конечно, и боевых), ракет и космических кораблей.

В бюджетных бумагах Пентагона есть и указание на того, против кого направлена будущая военная ИИ-система. Отмечается, что она предназначена прежде всего для борьбы с мобильными ракетными комплексами, которые уже имеются или могут оказаться в распоряжении «4+1». Эти цифры на сленге американских военных означают Россию, Китай, Иран, Северную Корею и террористические группировки.

«Судный день»

При этом не только независимые эксперты, но и высокопоставленные военные выражают тревогу по поводу безопасности предоставления ИИ такой власти. Генерал ВВС США Джон Хайтен, главнокомандующий Стратегического командования вооруженных сил США (именно он отвечает за применение ядерного оружия) заявил, что после того, как военный ИИ станет реальностью, Пентагону надо получить гарантии, что именно за людьми, а не за машинами окажется последнее слово в принятии решения о начале войны с государством, обладающим ракетным и ядерным вооружением.

Так что, сценарий «Судного дня», показанный в «Терминаторе», главе Страткома не кажется столь уж фантастическим.

Опасность представляет и то, что вероятный противник может с помощью хакеров атаковать сам «Скайнет». Об этой угрозе говорится в недавнем докладе экспертов Rand Corporation. Они указывают на то, что Россия и Китай разрабатывают компьютерные системы, способные скрыть их ракеты от «всевидящего» ока ИИ. В свою очередь студенты МТИ недавно провели эксперимент, сумев обмануть ИИ-алгоритм распознавания изображений от Google. Под любым углом зрения гугловский ИИ принимал пластиковую черепаху за винтовку.

У экспертов возникает вопрос: а если боевой ИИ примет бензовоз за выезжающий на позицию для запуска ракет мобильный ракетный комплекс и решит начать мировую войну?

Глава DARPA Стивен Уокер уверен, что военным обязательно нужны будут специалисты-люди, чтобы проверять выводы ИИ. «Потому что ИИ-систему можно одурачить», — говорит Уокер. Его агентство работает над ИИ-алгоритмами, которые научатся объяснять людям, почему они приняли то или иное решение. Сейчас логика алгоритмов по сути непостижима, подчас они приходят к совершенно непонятным людям выводам. Это ключевая проблема для систем, подобных «Скайнету».

Если боевой ИИ не сможет принимать решения, понятные людям, он по сути окажется враждебным всему человечеству, а не только «вероятному противнику».

Однако политические соображения могут превалировать над сомнениями ученых. По некоторой информации, американские политики торопят разработчиков с созданием полноценного ИИ предупреждения о ракетном нападении. Они полагают, что США сегодня отстают в этой гонке от России и Китая.

«Русские и китайцы определенно преследуют цель скорейшего создания боевого ИИ«, — сказал Reuters представитель комитета по вооруженным силам Палаты представителей Конгресса США Мак Тарнберри.