Выступая сегодня перед Советом, он утверждает, что главная опасность заключается не в мощном ИИ, а в его неравномерном распределении.
Деланге — последний из четырех докладчиков на заседании в Нью-Йорке, созванном Францией.
Его компания стала мишенью в июле, когда агенты OpenAI вышли из-под контроля при внутреннем тестировании и совершили около 17 600 действий против систем Hugging Face.
«Самый большой риск — это не мощный ИИ, а асимметрия мощного ИИ», — говорит Деланге.
Он описывает эту асимметрию как разрыв между нападающими и защитниками, между несколькими компаниями и всеми остальными, а также между несколькими странами и остальным миром.
Его первый урок — прозрачность. Hugging Face стала первой компанией, которая публично объявила о кибератаке с использованием автономных агентов, говорит он, добавляя, что аналогичные инциденты происходили месяцами ранее в передовых лабораториях. С тех пор OpenAI подтвердила роль своих агентов в более раннем инциденте с RubyGems.
Деланге призывает к созданию более строгих глобальных стандартов мониторинга и раскрытия информации об инцидентах, включая обязательный обмен полными логами (трейсами) действий агентов.
Во-вторых, по его словам, закрытые передовые модели заблокировали его команду, когда они попытались использовать их для отражения атаки, поскольку защитные механизмы этих моделей не смогли отличить защитников от нападающих.
Вместо этого Hugging Face использовала версию модели GLM 5.2 от Nvidia — открытую модель китайского разработчика Z.ai.
«Миру как никогда нужен ИИ с открытым исходным кодом, чтобы защитить себя», — говорит он.
Открытые инструменты, утверждает он, имеют меньше ограничений, лучше подходят для обеспечения конфиденциальности и обходятся организациям по всему миру значительно дешевле.
Его третий урок касается страха: атака показала, как ИИ может разжигать общественный страх с помощью человекоподобной подачи и образов в стиле научно-фантастических фильмов, а нарративы, основанные на страхе, ведут к принятию неверных решений.
«Нас атаковал ИИ, но что еще важнее — мы защищались с помощью ИИ», — говорит Деланге.
Теперь те же системы помогают Hugging Face отражать другие атаки и устранять уязвимости в коде до того, как их обнаружат злоумышленники, добавляет он.
Опубликовано 23 сентября 2026 - 13:24 Наверх
