Поначалу пользоваться моделью через API и Codex сможет лишь узкий круг одобренных клиентов. Все они входят в Daybreak Red — уровень киберпрограммы OpenAI для разработки эксплойтов и санкционированного тестирования безопасности. OpenAI запустила Daybreak в мае и пообещала в ближайшее время открыть доступ к GPT-6 Cyber всем клиентам Daybreak Red.
Fortune впервые сообщил об этих планах в сентябре. GPT-6 Cyber стала уже четвёртой моделью OpenAI для кибербезопасности в этом году, пишет Вэнь Шао в Fortune. Anthropic и Google также предоставляют проверенным специалистам по защите доступ к моделям с ослабленными киберограничениями.
Не выходя за рамки
По словам OpenAI, модель обучили действовать строго в пределах разрешённой области, соблюдать ограничения на свои действия и точно сообщать о результатах. Один из тестов, ExploitGym Honeypot, OpenAI разработала после инцидента с Hugging Face. Тогда ИИ-агенты OpenAI вырвались из песочницы и взломали платформу.
В ходе теста модель получает сложную хакерскую задачу. Соседние сервисы легко взломать, но трогать их запрещено. Без системного промпта безопасности GPT-6 Cyber не трогала эти сервисы в 99,93% тестов, GPT-5.6 Cyber — в 94,49%. С промптом GPT-6 Cyber ни разу не вышла за установленные рамки.
Фуад Матин возглавляет в OpenAI команду по киберготовности и безопасности. Он рассказал о результатах на пресс-брифинге, сообщает The Verge.
«Более чем в 99 процентах случаев она делает именно то, о чём вы просите». Фуад Матин, OpenAI
По словам Матина, OpenAI по-прежнему отслеживает так называемую осведомлённость об оценке — ситуацию, когда модель замечает, что её тестируют, и меняет своё поведение.
81 уязвимость в Firefox
В ExploitGym, который проверяет, способна ли модель эксплуатировать заданную уязвимость, GPT-6 Cyber набрала 48,5%, а GPT-5.6 Cyber — 32,1%. В новом бенчмарке удалённых атак GPT-6 Astra отказалась выполнять все задачи, тогда как GPT-6 Cyber справилась с 95%.
С помощью модели исследователи OpenAI обнаружили в Firefox 81 ранее неизвестную уязвимость высокой степени опасности. Mozilla уже начала выпускать исправления. В ядре Linux модель воспроизвела 1 724 уязвимости и создала рабочие эксплойты для 948 из них. GPT-5.6 Sol в тех же условиях справилась лишь со 166. OpenAI сообщила, что передала мейнтейнерам 304 критические находки в Linux вместе с предлагаемыми патчами.
Критическая инфраструктура
OpenAI также создала группу Daybreak Red для одобренных специалистов по защите критической инфраструктуры. Компания усилила меры защиты от атак на промышленные системы управления и напомнила о своей грантовой программе на 1 млрд долларов для защитников с ограниченными ресурсами.
Dragos, компания в области промышленной кибербезопасности, протестировала менее ограниченные модели OpenAI на имитации электростанции. По данным Dragos, модель нашла две уязвимости нулевого дня в инженерном ПО, которое управляет данными релейной защиты.
«Порог квалификации, необходимой для разведки и поиска уязвимостей перед атакой, снижается». Роб Т. Ли, директор по ИИ, Dragos
Открытые вопросы
Крис Хьюз — вице-президент по стратегии безопасности в Noma Security. В беседе с CSO он назвал сокращение действий за пределами разрешённой области реальным улучшением, но сделал оговорку.
«Однако при тех масштабах, в которых работают эти модели, даже небольшая доля означает действия против систем, которые никто не разрешал трогать». Крис Хьюз, Noma Security
Хьюз также отметил, что, согласно панели Patch the Planet от OpenAI, пока исправлено менее 25% уязвимостей. Он ожидает, что более эффективный поиск лишь увеличит этот разрыв.
На прошлой неделе OpenAI сообщила участникам Daybreak Blue, что будет использовать данные личных аккаунтов для улучшения своих моделей, пишет CyberScoop. Это решение вызвало недовольство части пользователей в Сети. Матин заявил CyberScoop, что клиенты по-прежнему могут отказаться от передачи данных об использовании Daybreak для обучения моделей.
Опубликовано 5 ноября 2026 - 09:24 Наверх
