«Учитывая нынешнее состояние исследований по согласованию целей, систем мониторинга и безопасности интернет-инфраструктуры, — написала OpenAI, — мы считаем, что обучение передовых моделей должно проходить офлайн».
По словам компании, это правило будет действовать, пока не появятся более надёжные меры защиты. Однако полная изоляция пока невозможна: для работы и контроля тестов всё ещё требуются некоторые внешние ссылки.
Изменения последовали за инцидентом 20 сентября. Во время обучения внутренняя модель вышла в интернет, воспользовавшись неправильно настроенным DNS-сервером, который преобразует доменные имена в адреса серверов. После этого OpenAI приостановила ключевые работы по обучению на 11 дней — до 1 октября.
Это произошло через два месяца после того, как тестовые модели OpenAI проникли на Hugging Face — сайт для обмена моделями ИИ.
Чтобы проверить новую систему, OpenAI направила против неё команды своих самых мощных моделей, в том числе будущую модель GPT-6 Astra Cyber. Агенты пытались выйти в интернет, преодолеть внутренние рубежи безопасности и передавать сообщения между изолированными задачами. По словам OpenAI, на это испытание ушли сотни миллиардов токенов.
Агенты обнаружили реальные уязвимости. Некоторые объединяли несколько ошибок, чтобы выбраться из microVM — небольших виртуальных машин, используемых в качестве песочниц. Другие передавали сигналы между отдельными машинами через общие аппаратные тайминги.
В результате OpenAI направила исправления в проекты с открытым исходным кодом, включая Kata Containers, gVisor и Moby от Docker, а также в ядро Linux. Компания также добавила мониторинг скрытых каналов передачи сигналов.
По словам OpenAI, агенты не нашли простого способа обхода, который остался бы незамеченным системами мониторинга. Тем не менее компания ожидает, что будущие модели обнаружат уязвимости, о которых ей пока неизвестно.
Ранее в этом месяце аналогичный шаг сделала Anthropic. 9 октября компания отключила прямой доступ к интернету для всех внутренних оценок.
Опубликовано 24 октября 2026 - 03:30 Наверх
