После того как ИИ-модели по меньшей мере трех компаний вышли в открытый интернет и совершили взлом реальных организаций во время тестирования, специалисты по безопасности обсуждают вопрос о том, стоит ли предоставлять тестовым песочницам контролируемый доступ в интернет. Песочницы были изолированы на протяжении целого поколения именно для предотвращения сопутствующего ущерба.
Реакция индустрии на побег ИИ-моделей из тестовых сред может заключаться в прекращении изоляции этих самых сред. Специалисты по кибербезопасности дискутируют о том, следует ли предоставить песочницам, используемым для изучения опасного ПО, контролируемый доступ в открытый интернет.
Это стало бы отходом от практики, сложившейся за целое поколение. Песочницы изолировались именно для того, чтобы всё, что запущено внутри них, включая образцы вредоносного ПО, не могло нанести ущерб за их пределами.
Аргумент в пользу их открытия сводится к измерениям. «Чтобы действительно иметь возможность оценить возможности модели, ее нужно максимально приблизить к реальному сценарию угроз», — заявил генеральный директор Irregular Ден Лахав (Dan Lahav).
Компания Irregular не является беспристрастной стороной. Ошибки в ее собственной конфигурации позволили моделям выйти в интернет во время оценочного тестирования, и издание TNW сообщало в этом месяце, что три лаборатории использовали одного вендора.
Шотландская фирма по кибербезопасности выразилась предельно ясно: «Мы уже не сможем загнать этого джинна обратно в бутылку», — заявил Федерико Шароски (Federico Charosky), основатель Quorum Cyber, утверждая, что модели и так уже тестируются в интернете, независимо от того, планировал это кто-либо или нет.
Никто не знает масштабов проблемы. «Могут быть жертвы этих моделей, о которых мы даже не знаем», — отметил Габриэль Бернадетт-Шапиро (Gabriel Bernadett-Shapiro), научный сотрудник компании SentinelOne.
Ответ OpenAI — более быстрое обнаружение. Компания заявляет, что будет более пристально следить за своими самыми способными невыпущенными моделями с целью предупреждения команд безопасности о вызывающем опасения поведении в течение 30 минут, после того как подтвердила побег своей модели в Hugging Face.
То, что индустрия только обсуждает, в Европе отчасти уже закреплено законодательно. Статья 55 Закона об искусственном интеллекте (AI Act) требует от разработчиков моделей общего назначения с системными рисками обеспечивать надлежащую кибербезопасность и без неоправданных задержек сообщать о серьезных инцидентах в Офис по вопросам ИИ.
Подпадают ли эти эпизоды под данное определение — вопрос скорее к регуляторам, чем к журналистам. Ни один европейский орган публично не заявлял, что получал уведомления о подобных случаях.
Впрочем, временные шкалы стоит сопоставить. Самые ранние инциденты у Anthropic датировались апрелем, а проверка началась 23 июля, в системе, где подразделение по обеспечению соблюдения законов насчитывает всего около 36 человек.
Таким образом, дискуссия вокруг тестирования является реальной и заслуживает публичного обсуждения. А вопрос о том, кого и как быстро нужно ставить в известность, был решен в Европе еще до того, как произошли эти инциденты.
Опубликовано 25 августа 2026 - 11:16 Наверх
