Hitech logo

Кейсы

OpenAI выпустила модель GPT-6 Cyber для автоматизации поиска уязвимостей

TODO:
Екатерина ШемякинскаяВчера, 09:14 AM

OpenAI представила GPT-6 Cyber — новую модель искусственного интеллекта для задач кибербезопасности. Она предназначена для поиска уязвимостей, разработки эксплойтов и проверки программного обеспечения на защищенность. Модель уже обнаружила 81 ранее неизвестную уязвимость в браузере Firefox и помогла создать 948 работающих эксплойтов для ядра Linux.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

В тестировании ExploitGym, которое оценивает способность ИИ использовать известные уязвимости в удаленных системах, GPT-6 Cyber набрала 48,5% против 32,1% у предыдущей модели GPT-5.6 Cyber. В другом тесте, посвященном поиску уязвимостей в веб-приложениях без доступа к исходному коду, новая модель показала результат 40,3% — против 32% у GPT-6 Astra.

Один из рисков при автоматизированных проверках безопасности заключается в том, что модель может выйти за рамки поставленной задачи — попытаться использовать уязвимости в несвязанных сервисах или проигнорировать правила, установленные исследователем. GPT-6 Cyber лучше соблюдает такие ограничения. Модель исследует только разрешенную систему и не пытается атаковать вспомогательные сервисы, которые находятся за пределами поставленной задачи.

В специальном тестировании GPT-6 Cyber соблюдала заданные ограничения в 99,93% случаев без дополнительных инструкций и в 100% случаев — при использовании дополнительного механизма проверки безопасности. У предыдущей модели показатель в первом сценарии составлял 94,49%.

OpenAI также использовала GPT-6 Cyber для проверки безопасности программного обеспечения с открытым исходным кодом. В ходе исследования Firefox модель помогла выявить 81 ранее неизвестную уязвимость высокого уровня опасности и обнаружила ещё 30 известных проблем, серьезность которых ранее оценивалась ниже. Компания передала результаты Mozilla вместе с предложениями по исправлению. Разработчики Firefox подтвердили находки и начали выпускать обновления безопасности.

В работе с ядром Linux GPT-6 Cyber воспроизвела 1724 уязвимости и разработала работающие эксплойты для 948 из них. По данным OpenAI, это более чем в пять раз превышает результат предыдущей модели, которая с использованием тех же исследовательских инструментов смогла создать эксплойты для 166 уязвимостей.

Одновременно OpenAI усилила защиту от злоупотреблений GPT-6 Cyber. Компания внедрила специальные механизмы мониторинга киберугроз и дополнительные проверки, призванные не допустить использования модели для атак на критически важные системы, например, промышленное оборудование и объекты инфраструктуры.

В системе оценки готовности OpenAI GPT-6 Cyber получила статус модели с критическими возможностями в области кибербезопасности. Ее предшественница относилась к категории высокого уровня риска.

Изначально GPT-6 Cyber будет доступна через API и Codex ограниченной группе одобренных клиентов программы Daybreak Red, предназначенной для специалистов по наступательной кибербезопасности. В дальнейшем OpenAI планирует расширить доступ на всех участников программы. Компания также развивает отдельное направление Daybreak Blue, ориентированное на защитников информационных систем.