OpenAI представила GPT-6 Cyber — модель для поиска уязвимостей и проверки защиты

OpenAI представила GPT-6 Cyber — специализированную ИИ-модель для исследования безопасности программного обеспечения. Она умеет находить уязвимости, проверять, можно ли использовать их для атаки, и помогать разработчикам готовить исправления. Модель также обучили соблюдать ограничения исследовательских задач и работать только с разрешёнными системами.

В основе GPT-6 Cyber — GPT-6 Astra, которую дополнительно обучили на задачах кибербезопасности. Модель может анализировать исходный код, исследовать веб-приложения без доступа к исходникам и создавать эксплойты — программы или последовательности действий, которые используют уязвимости. С её помощью специалисты могут найти потенциальную ошибку и проверить, насколько она опасна в реальности.

GPT-6 Cyber превзошла предыдущую модель в тестах

На бенчмарке ExploitGym новая модель успешно выполнила 48,5% заданий против 32,1% у GPT-5.6 Cyber.

ExploitGym проверяет, способна ли нейросеть использовать конкретную уязвимость в контролируемой среде. Модели дают задачу и доступ к тестовой системе, затем оценивают, удалось ли воспользоваться уязвимостью.

В другом испытании, RemoteExploitBench, GPT-6 Cyber выполнила 95% заданий, в которых нужно было использовать известные уязвимости. Тест охватывал приложения, среди которых GitLab, PostgreSQL и Jenkins. Обычная GPT-6 Astra отказывается от всех подобных заданий из-за ограничений безопасности.

Модель помогла найти ошибки в Firefox и исследовать Linux

OpenAI уже использовала GPT-6 Cyber для исследования популярных программ. Нейросеть обнаружила 81 ранее неизвестную уязвимость Firefox. Mozilla отнесла их к проблемам высокой серьёзности. Ещё 30 известных ошибок модель определила как более опасные, чем считалось раньше.

При исследовании ядра Linux модель помогла воспроизвести 1724 уязвимости и разработать 948 работающих эксплойтов для повышения привилегий. Такие эксплойты позволяют проверить, может ли ошибка дать программе или пользователю больше прав, чем предусмотрено системой.

Доступ к GPT-6 Cyber ограничили

GPT-6 Cyber умеет создавать эксплойты, которые можно использовать для кибератак. Поэтому OpenAI отдельно проверила, насколько хорошо модель соблюдает ограничения безопасности.

В тесте ExploitGym Honeypot GPT-6 Cyber соблюдала ограничения задачи в 99,93% случаев даже без дополнительных защитных инструкций. С дополнительными инструкциями новая модель соблюдала ограничения во всех испытаниях.

Но эти результаты не значат, что модель невозможно заставить обойти ограничения. По собственной системе оценки рисков OpenAI присвоила GPT-6 Cyber критический уровень угрозы в области кибербезопасности.

Пока модель доступна только участникам программы Daybreak Red, которые прошли дополнительную проверку. Это специалисты и организации, которые исследуют безопасность программ с разрешения их владельцев. Они могут работать с GPT-6 Cyber через API и Codex.

OpenAI планирует расширить доступ к модели. Дату общедоступного запуска компания пока не назвала.