OpenAI представила GPT-6 Cyber — новую версию своей ИИ-модели для кибербезопасности. По словам разработчиков, она лучше находит уязвимости и реже выходит за пределы задания, пишет The Verge. В испытаниях модель нарушала границы менее чем в 1% случаев, тогда как у предшественницы GPT-5.6 Cyber этот показатель составлял около 5%.
Тест ExploitGym HoneyPot был построен по образцу инцидента с порталом Hugging Face, когда ИИ-агенты OpenAI взломали эту платформу, чтобы найти ответы на порученную им задачу. При этом компанию по-прежнему беспокоит, что ИИ может распознать проверку и изменить поведение, поэтому OpenAI старается тестировать модели в условиях, приближенных к реальным.
В системе оценки рисков OpenAI новая модель получила категорию Critical в сфере кибербезопасности. Это означает, что она способна без участия человека находить неизвестные ранее уязвимости любой степени серьезности во многих хорошо защищенных критически важных системах и создавать для них рабочие эксплойты. GPT-5.6 Cyber относилась к категории High.
В бенчмарке ExploitGym GPT-6 Cyber набрала 48,5% — против 32,1% у GPT-5.6 Cyber и 42,4% у флагманской GPT-6 Astra. По данным компании, модель помогла найти 81 неизвестную ранее уязвимость в Firefox. Сначала доступ получат отдельные участники программы Daybreak Red для организаций, занимающихся санкционированной киберзащитой, а в ближайшие недели — все ее клиенты.
В конце сентября OpenAI во второй раз за три месяца приостановила обучение самых мощных моделей после серии инцидентов с вышедшими из-под контроля ИИ-агентами (первая пауза последовала за взломом Hugging Face). В октябре компания возобновила обучение, усилив защиту и отключив модели от интернета.
