Anthropic Deep Tech Данные и безопасность
Claude Mythos обнаружил математические уязвимости в HAWK (снижение прочности ключа вдвое) и в AES с уменьшенным числом раундов (атака ускорена в 200–800 раз). Обе находки сделаны преимущественно автономно. Продакшн-системы не затронуты. Стоимость каждой составила около 100 тыс. долларов.
Компания Anthropic объявила в понедельник, что Claude Mythos Preview обнаружил математические уязвимости в двух криптографических алгоритмах. Первая из них существенно ослабляет HAWK — постквантовую схему цифровой подписи, рассматриваемую NIST, — сокращая ее эффективную прочность ключа ровно вдвое. Вторая улучшает самую известную атаку на семиконтурный (семиунционный) AES — наиболее широко используемый симметричный шифр — в 200–800 раз. Ни один из результатов не затрагивает действующие производственные системы: HAWK еще не развернут, а атака на AES нацелена на сокращенный вариант, а не на полномасштабный шифр.
Разница с предыдущими работами Anthropic в области кибербезопасности имеет критическое значение. Ранее Claude находил уязвимости в криптографических библиотеках — то есть ошибки в том, как программисты реализовывали алгоритмы. Новые результаты представляют собой изъяны в самой математике алгоритмов, обнаруженные после того, как годы проверок экспертами-людьми не смогли их выявить. HAWK прошел два раунда проверок NIST за два года. Mythos нашел уязвимость за 60 часов полуавтономной работы, причем один исследователь обеспечивал лишь руководство проектом, а не техническое сопровождение. Результат по AES был получен практически полностью автономно после того, как Claude сначала отказался пытаться, заявив, что улучшение невозможно. Исследователь отправил три вдохновляющих промпта за три дня. Claude сгенерировал один миллиард токенов на выходе и изобрел технику, которую назвал «Мобиусовым мостом» (Möbius Bridge).
Каждое открытие обошлось примерно в 100 000 долларов США на вычисления через API. Anthropic действовала в рамках концепции ответственного раскрытия информации (responsible disclosure), поделившись деталями атаки на HAWK с ее авторами и проведя координацию с NIST, правительством США и отраслевыми партнерами перед публикацией. Компания также объединила усилия с ETH Zurich, Тель-Авивским университетом и Хайфским университетом для выпуска CryptanalysisBench — бенчмарка для оценки возможностей искусственного интеллекта в криптоанализе. Claude Mythos за один месяц обнаружил 10 000 критических уязвимостей в программном обеспечении, и переход от ошибок реализации к архитектурным изъянам алгоритмов знаменует собой качественный скачок в том, что ИИ способен сделать с инфраструктурой безопасности.
Anthropic сообщила и о последующих результатах: практической атаке на 13-раундовый LEA, которая восстанавливает ключи менее чем за час на обычном компьютере, а также об атаках на Serpent-128, Salsa20, Poseidon и SHA-1. «Всего за один год языковые модели прошли путь от неспособности выполнить криптоанализ даже самых базовых шифров до способности находить изъяны в криптографических проектах, которые ускользали от обнаружения, несмотря на годы проверок человеческими экспертами», — написала компания. Белый дом запустил программу Gold Eagle для координации киберзащиты на базе ИИ, однако аналогичной программы для криптографического аудита не существует. Вопрос, который Anthropic поставила в конце своего поста, является главным: что произойдет, когда модель обнаружит изъян в шифре, который уже защищает работающие производственные системы?
