Хакеры из Северной Кореи создают собственные ИИ-инструменты для обхода систем защиты

Северокорейские хакеры нашли способ использовать искусственный интеллект, не передавая свои секреты ни одной компании из Кремниевой долины. По данным южнокорейской кибербезопасной фирмы Genians, связанная с государством хакерская группа Kimsuky создает собственные ИИ-инструменты для автоматизации и усиления своих кибератак.

Самое интересное заключается в том, насколько целенаправленно они остаются в тени. Вместо того чтобы полагаться на коммерческие чат-боты, которые фиксируют активность и проверяют контент на предмет нарушений, группировка запускает открытые модели, такие как Ollama, GPT4All и Msty, непосредственно на собственных компьютерах. Это позволяет оградить конфиденциальную работу от любых провайдеров, которые могли бы заметить подозрительную активность или сообщить о ней.

Этот выбор наглядно отражает всю стратегию хакеров. Сохраняя все локально, Kimsuky обходит мониторинг и защитные фильтры, которые такие компании, как OpenAI, создали специально для предотвращения подобного рода злоупотреблений, превращая находящееся в свободном доступе ПО с искусственным интеллектом в скрытое внутреннее оружие.

Инструментарий группы выходит далеко за рамки обычного чат-бота. В Genians заявляют, что хакеры задействовали генерацию с дополненной выборкой (RAG) для анализа украденных документов, фреймворки ИИ-агентов для объединения задач в цепочки, программное обеспечение для распознавания речи и даже Cursor — инструмент для написания кода с помощью ИI, который помогает создавать и дорабатывать вредоносное ПО.

Имея такой стек технологий, группировка может работать быстрее и убедительнее по всем направлениям. Исследователи описывают, как хакеры автоматизируют атаки, создают более правдоподобные фишинговые приманки, внедряют ИИ в разработку вредоносных программ и анализируют все украденные данные, избавляясь от необходимости выполнять каждый шаг вручную.

В результате методы обмана стали значительно изощреннее. Среди разработок группы — документы на финансовую и криптовалютную тематику, призванные имитировать официальные рабочие отчеты; это качественные приманки, которые гораздо сложнее распознать, чем неуклюжий фишинг прошлых лет.

Все это не случайно: Kimsuky — хорошо известная и находящаяся под санкциями группировка. Министерство финансов США внесло ее в черный список еще в 2023 году, охарактеризовав как спонсируемую правительством Северной Кореи группу кибершпионажа, которая собирает разведданные для достижения стратегических целей Пхеньяна.

Эта группа также вписывается в давнюю схему северокорейской кибердеятельности, направленной как на деньги, так и на секреты. Хакеров из Пхеньяна неоднократно уличали в атаках на разработчиков и пользователей криптовалют (включая зараженные пакеты кода, созданные для кражи учетных данных разработчиков), а искусственный интеллект просто делает такие кампании более дешевыми в масштабировании.

По сути, хакеры этого режима представляют собой государственное предприятие. Вашингтон ввел санкции против нескольких северокорейских группировок, стоящих за такими атаками, как WannaCry, что отражает то, насколько центральное место киберпреступность занимает в экономике сильно изоляционистской страны, нуждающейся в твердой валюте.

Особую тревогу в ИИ-аспекте вызывает то, как он снижает затраты на масштабирование. Та же автоматизация способствует общему росту онлайн-преступности — объем мировой экономики мошенничества превысил $442 млрд, — причем имеющий хорошие ресурсы государственный актор гораздо лучше приспособлен для использования этих инструментов, чем одинокий мошенник.

Это также порождает более сложный вопрос, на который индустрия еще не нашла ответа. Поскольку автономное программное обеспечение берет на себя все больше работы, до сих пор остается неясным, кто несет ответственность, когда ИИ-агент причиняет вред, а враждебное правительство, запускающее собственные модели, находится вне досягаемости любого провайдера.

Стоит сделать одну оговорку. Выводы Genians не могли быть независимо верифицированы, поэтому точный масштаб операции основан на исследовании всего одной фирмы, даже если оно полностью согласуется со всем, что известно об этой группе.

Это также ставит под сомнение утверждение о том, что открытые модели по умолчанию безопасны. Сама открытость, которая позволяет исследователям и стартапам свободно создавать продукты, позволяет находящемуся под санкциями государству запускать то же программное обеспечение вне чьего-либо контроля — компромисс, с которым индустрия долгое время не решалась столкнуться лицом к лицу.

Впрочем, общий вывод все равно неутешителен. Средства защиты, рекламируемые ведущими лабораториями, работают только тогда, когда злоумышленники используют их инфраструктуру. Выбрав открытые модели на частном оборудовании, самые целеустремленные злоумышленники в мире нашли очевидный способ обойти эти преграды.