Исследователи применили ИИ для создания WeChat-червя, распространяющегося через телефонные звонки

Исследователи из пало-альтонской охранной компании Calif заявляют, что использовали искусственный интеллект для создания червя, который распространяется через вызовы в WeChat. Он перехватывает контроль над аккаунтом еще в момент вызова, пока телефон продолжает звонить. Затем он использует этот аккаунт для обзвона контактов жертвы и повторения трюка. Компания Tencent, владеющая WeChat, подтвердила наличие уязвимости и сообщила, что устранила ее. По ее заявлению, у нее нет оснований полагать, что кто-либо из пользователей пострадал.

Дастин Волц из The New York Times сообщил об атаке 8 сентября. В тот же день компания Calif опубликовала собственный отчет, назвав червя WeWorm. Они называют его первым червем класса «zero-click» (без участия пользователя), распространяющимся через звонки в WeChat как на iOS, так и на Android. Сведений о реальном применении этого эксплойта злоумышленниками не поступало. Издание TNW не тестировало эксплойт, а Calif воздержалась от публикации технических деталей.

Масштаб потенциального охвата делает эту угрозу особенно серьезной. По данным отчета за второй квартал, опубликованного Tencent, по состоянию на 30 июня общая ежемесячная аудитория WeChat и ее китайской версии Weixin составляла 1,439 млрд пользователей. Для большинства из них этот аккаунт — гораздо больше, чем просто мессенджер. Он также включает платежные сервисы, официальные аккаунты и мини-программы, работающие внутри WeChat.

Как работает атака

Злоумышленник должен находиться в списке контактов жертвы, после чего он просто совершает вызов. Жертве не нужно отвечать на звонок. Если же она снимает трубку, то ничего не слышит, но эксплойт все равно срабатывает. Сброс вызова прерывает данную попытку, однако злоумышленник может повторить ее позже, например, пока жертва спит.

Условие наличия в списке контактов менее надежно, чем кажется на первый вид. Злоумышленник, получивший контроль над одной учетной записью, может использовать ее для доступа ко всем, кому доверяет этот аккаунт. WeChat наделяет контакты дополнительными привилегиями, и, по утверждению Calif, именно в этом кроется уязвимость.

«Как только один контакт оказывается скомпрометирован, это доверие начинает работать против вас», — написала компания.

Успешный звонок дает полный контроль над учетной записью. Злоумышленник может читать и отправлять сообщения, совершать вызовы и действовать от имени владельца. В Calif заявляют, что обнаруженная уязвимость представляет собой ошибку повреждения памяти (memory corruption) в стеке интернет-телефонии WeChat. Компания добавляет, что другие выявленные ею уязвимости для Android и iOS могут позволить распространить атаку на весь смартфон в целом. Данная цепочка эксплойтов пока не опубликована.

Два дня или три недели

В Calif утверждают, что их команда совместно с ИИ обнаружила баг и написала первый эксплойт примерно за два дня. Создание самого червя заняло еще одну неделю. «Эта уязвимость исключительна», — заявил изданию The Times генеральный директор компании Тхай Зыонг. Представители Calif сообщили газете, что использовали комбинацию открытых и передовых американских моделей, однако отказались их называть.

Собственная хронология Calif выглядит несколько иначе. Команда узнала об уязвимости 23 июля и завершила работу над первым эксплойтом для Android 30 июля. Демонстрационная версия червя была готова 11 августа. На эту несостыковку обратила внимание Свати Хандельвал из The Hacker News, отметив, что в публикации не уточняется, учитывают ли более короткие сроки исключительно чистое рабочее время.

Тем не менее значительную часть работы по-прежнему выполняли люди. Зыонг рассказал The Times, что его команде приходилось «нянчиться со всем процессом», чтобы получить работоспособного червя. Кроме того, в Calif сообщили The Hacker News, что написали набор специализированных навыков (skills) для направления ИИ по поверхностям атак мессенджеров. Именно с их помощью искусственный интеллект обнаружил данный изъян.

Подобный сценарий уже наблюдался в текущем году. В мае компания Google объявила, что обнаружила и заблокировала первый эксплойт нулевого дня, созданный с помощью ИИ. В августе ИИ-агент собрал рабочий эксплойт для уязвимости в macOS <*strong>всего за четыре часа. WeChat-червь дополняет эту картину способностью к автономному распространению.

Что заявляет Tencent и о чем она умалчивает

Представительница Tencent подтвердила изданию The Times факт наличия уязвимости. Она заявила, что компания устранила проблему после обращения специалистов Calif. По ее словам, у Tencent нет оснований полагать, что уязвимость скомпрометировала безопасность или затронула кого-либо из пользователей. Обновлять приложение клиентам не требуется, добавила она.

Хронология от Calif заполняет остальные пробелы. Компания сообщила об уязвимости 24 июля и заявляет, что после этого потеряла доступ к собственным аккаунтам в WeChat в период с 25 по 28 июля. Компания Tencent выпустила версию Android 8.0.77 и версию iOS 8.0.76 21 августа. Специалисты Calif подтвердили внедрение серверной блокировки для всех пользователей 28 августа. 4 сентября Tencent подтвердила, что злоумышленник мог использовать уязвимость для удаленного выполнения команд. В своем посте Calif поблагодарила Tencent за «успешное сотрудничество».

В публичном поле информации меньше. Издание The Hacker News не обнаружило для данной уязвимости идентификатора CVE. На сайте центра реагирования на инциденты безопасности Tencent также отсутствуют какие-либо бюллетени (последнее уведомление датировано апрелем 2022 года). В примечаниях к выпуску обновление было обозначено лаконично — как исправление ошибок.

В Calif сообщили изданию, что тестировали версии Android 8.0.76 и iOS 8.0.75. При этом компания отказалась отвечать на вопрос, проверялись ли клиенты для HarmonyOS, Windows, Mac или Linux. На вопрос о том, устранила ли Tencent саму первопричину уязвимости или лишь заблокировала работу эксплойта, представители ответили отказом от комментариев. Пользователь, использующий другую сборку, не может знать, подвергался ли он какому-либо риску.

Чего требуют европейские правила

Начиная с 11 сентября Закон о киберустойчивости (Cyber Resilience Act) Евросоюза обязывает производителей сообщать об активно эксплуатируемых уязвимостях в своей продукции. Они должны направить предварительное предупреждение в течение 24 часов и официальное уведомление в течение 72 часов. Финальный отчет предоставляется в течение 14 дней после выпуска исправления. Каждый такой отчет направляется в национальную группу реагирования на инциденты, а также одновременно передается в ENISA — агентство ЕС по кибербезопасности.

Это требование распространяется на уязвимости, эксплуатация которых злоумышленниками уже подтверждена. Сведений о том, что данную уязвимость кто-либо использовал на практике, не поступало. Более широкое требование, прописанное в тексте регламента, вступает в силу 11 декабря 2027 года. С этого момента производители будут обязаны публиковать информацию обо всех уязвимостях, которые они устранили. Сюда входят описание проблемы, затронутые продукты, степень опасности и рекомендации по защите для пользователей.

Почему выбор времени имеет значение

Компания Calif проинформировала представителей Белого дома перед тем, как обнародовать информацию, и один из чиновников подтвердил факт этого брифинга изданию The Times. На этот месяц запланирована встреча президента Трампа с Си Цзиньпином. США намерены поднять тему кибератак с использованием ИИ в ходе переговоров с Китаем.

Предупреждения поступают все чаще. По данным The Times, компания Calif вошла в число более чем 100 организаций, подписавших в августе открытое письмо касательно надвигающихся угроз со стороны ИИ. Спустя несколько дней председатель Совета по финансовой стабильности заявил министрам финансов стран G20, что атаки на базе искусственного интеллекта представляют собой наиболее непосредственную угрозу для финансовой системы.

В самой Calif из собственного опыта делают иной вывод. «Самая простая реакция — обвинить ИИ и попытаться ограничить его дальнейшее развитие», — написала компания, назвав такой подход ошибочным. Их позиция заключается в том, что искусственный интеллект позволяет защитникам находить и устранять уязвимости гораздо быстрее, чем злоумышленники успевают их использовать.

Вин Нгуен (Vinh Nguyen), бывший главный специалист по данным Агентства национальной безопасности (АНБ), ознакомился с результатами исследования до их публикации. Он заявил The Times, что это одна из самых тревожных атак, которые он когда-либо видел. «В течение нескольких часов вы можете получить доступ к сотням миллионов устройств», — отметил он.

В Calif заявляют, что WeWorm — это лишь первая работа в серии исследований мессенджеров, а полноценный анализ будет представлен на конференции. До тех пор единственными публичными доказательствами остаются демонстрация на трех телефонах и хронология событий. Вопрос о том, устранила ли Tencent саму уязвимость или просто заблокировала эксплойт, остается открытым — ни одна из компаний пока не дала на него публичного ответа.