Ученые: ядерное вооружение должен контролировать ИИ
Logo
Cover

Пара связанных с ВВС экспертов из США считают, что на звонки в духе «господин президент, нас атаковали» в ближайшем будущем времени не будет. Единственное, что может сдержать противника от атаки — неминуемый ядерный ответ. Без участия человека.

1203

Доверить коды для запуска ядерных ракет искусственному интеллекту предлагают Кертис Макгриффин и Адам Лоуфер — сотрудники двух американских институтов, связанных с Военно-воздушными силами. Их статья называется «Америке нужна „Рука мертвеца“». Так за рубежом называли советскую систему обеспечения ответного ядерного удара «Периметр».

Созданный в разгар холодной войны «Периметр» работал просто: в случае ядерной атаки на СССР в небо поднималась командная ракета, боеголовка которой из стратосферы отдавала приказы на запуск ядерных ракет, обеспечивая «удар возмездия».

Макгриффин и Лоуфер предлагают задействовать более современные технологии — искусственный интеллект. Как с иронией отмечает Digital Trends, это та самая технология, которая принимает распечатанную на 3D-принтере черепашку за винтовку. Что может пойти не так?

Однако ученые уверены, что это лучший шанс, который остается. В основе их рассуждений — феномен «сжатия времени атаки».

Они указывают, что уже в ближайшем будущем времени на то, чтобы принять решение «по-человечески», просто не будет. Произойдет это после появления гиперзвуковых ракет и военных самолетов. В Китае и США гиперзвуковые двигатели уже испытывают.

«Может возникнуть необходимость в разработке системы, основанной на искусственном интеллекте, с заранее определенными ответными ответными условиями, которая обнаруживает, принимает решение и направляет стратегические силы с такой скоростью, что проблема сжатия времени атаки не ставит Соединенные Штаты в невозможное положение», — написали Макгриффи и Лоуфер.

Разумеется, у столь резонансного предложения появились и противники. Так, редактор Bulletin of the Atomic Scientists Мэтт Филд указывает, что такой ИИ, к счастью, придется обучать на симуляторе, так как реальных данных о подготовке и нанесении глобального удара нет. Это значит, что работать он будет ненадежно. Филд также подчеркивает, что люди часто слепо доверяют вердиктам машины, а в будущем у пульта может не оказаться Станислава Петрова, чтобы предотвратить ядерный конфликт, который начнется из-за ошибки ИИ.

В США уже разрабатывают «Скайнет» — секретный ИИ для управления во время военных конфликтов. То, что начиналось как софт для обработки спутниковых снимков, теперь превращается в «мегамозг» для сопоставления всей доступной военным информации. И, возможно, уже принимает некоторые решения.