Hitech logo

Кейсы

ИИ-модель Anthropic научилась взламывать Chrome и извлекать фото с Android

TODO:
Екатерина ШемякинскаяСегодня, 03:13 PM

Anthropic использовала внутреннюю исследовательскую модель Claude для поиска уязвимостей в Chrome, Safari, Android, Windows и Linux. Модель находила отдельные ошибки и объединяла их в цепочки атак. Например, Claude разработала эксплойт, который позволял читать переписку пользователя в Safari, получать доступ к данным банковского аккаунта и даже переводить деньги. Другие уязвимости позволяли извлекать фотографии с заблокированного Android-смартфона. Всего компания описала пять таких атак и сообщила, что передала сведения об уязвимостях разработчикам.

00
Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

В Google Chrome модель создала эксплойт, который позволял злоумышленнику выполнять произвольный код на компьютере жертвы в обход встроенной защиты браузера. В демонстрации после открытия вредоносной страницы на Mac запускался «Калькулятор». Так исследователи показали, что эксплойт позволяет выполнять код за пределами защитной песочницы Chrome без дополнительных действий пользователя. Чтобы добиться этого, модель объединила несколько уязвимостей в движке JavaScript V8, механизме хранения данных CacheStorage и системе федеративного управления идентификацией FedCM.

Мозг показывает нам только часть реальности

В Safari Claude разработала эксплойт, с помощью которого JavaScript на вредоносном сайте обходит политику одного источника — механизм, ограничивающий доступ веб-страниц к данным других сайтов. В результате атаки можно было получить доступ к истории браузера, файлам cookie, платежным и другим конфиденциальным данным, а также отправлять запросы от имени пользователя к другим сайтам. В отличие от цепочки для Chrome, эта атака не требовала выполнения произвольного кода. Модель объединила несколько ошибок, чтобы изменить параметры безопасности браузера.

Claude также создала эксплойт, который позволял извлекать фотографии и другие личные данные с украденного Android-смартфона без разблокировки. Модель изучила исходный код открытых компонентов Android, проанализировала бинарные файлы сервисов Google Play и проверила результаты на Google Pixel 9.

В итоге Claude объединила три уязвимости, чтобы обойти несколько уровней защиты: ограничения на передачу данных через USB, проверку авторизации устройства и подтверждение подключения со стороны владельца. В частности, модель нашла уязвимость, из-за которой система пропускала проверку шестизначного кода, а также способ передавать файлы через USB в обход встроенной защиты.

В Windows Claude обнаружила уязвимость в сетевом протоколе QUIC, встроенном в ядро системы. Злоумышленник мог удаленно вывести компьютер или сервер из строя, отправив специально сформированные сетевые пакеты. В Linux модель нашла другую уязвимость — в сетевом стеке ядра. Она позволяла удаленно выполнять команды с правами суперпользователя без пароля и каких-либо действий со стороны владельца системы. В демонстрации Anthropic подготовка атаки заняла 48 минут, а выполнение команды — еще пять.

Anthropic сообщила обо всех случаях соответствующим разработчикам в рамках процедуры координированного раскрытия уязвимостей. Компания считает, что доступ к таким моделям может помочь специалистам по кибербезопасности быстрее проверять собственные системы и устранять ошибки до того, как ими воспользуются злоумышленники.