Это предупреждение основано на новом исследовании команды Anthropic Frontier Red Team, которая проверяет модели ИИ на наличие опасного поведения.
Команда изучила, может ли модель находить уязвимые устройства, устанавливать себя на них, запускаться и продолжать распространяться без помощи человека.
Чтобы показать, что имеющееся оборудование уже на это способно, исследователи купили 15 ТВ-приставок на Android от малоизвестных брендов примерно по 55 долларов за штуку.
Они распределили открытую модель Google Gemma4-26B между устройствами и запустили её, хотя работала она медленно — менее половины токена в секунду.
Исследователи выяснили, что открытые модели с 30 млрд параметров и менее уже способны выполнять многие отдельные этапы этого процесса.
Однако при попытке последовательно пройти весь процесс такие модели всё ещё допускают ошибки.
В упрощённом тесте, где взлом устройства облегчили, только более крупная открытая модель GLM-5.2 смогла полностью распространиться по небольшой сети эмулируемых устройств Android.
В Anthropic заявили, что, если небольшие модели продолжат совершенствоваться нынешними темпами, к концу года они могут достичь такого уровня.
Исследователи написали, что такого сетевого червя будет трудно остановить, поскольку у него не будет единого выключателя. В отличие от традиционного вредоносного ПО, он также сможет самостоятельно определять, как запускаться на незнакомых ему устройствах.
Недорогие умные устройства — лёгкая мишень. Ранее ботнет Kimwolf заразил более двух миллионов устройств, преимущественно ТВ-приставок на Android от малоизвестных брендов.
Устройства интернета вещей часто поставлялись со слабой защитой. Ранее в этом году связанная с китайским государством сеть взяла под контроль 1 500 роутеров и других устройств.
Согласно исследованию, такие самораспространяющиеся модели, вероятно, будут распространяться медленно — на создание каждой копии может уходить день или больше. Даже сеть размером с Kimwolf располагала бы вычислительной мощностью, сопоставимой лишь с мощностью 40 высокопроизводительных чипов Nvidia H100.
У защитников тоже есть преимущества. Распространяющаяся модель будет передавать большие файлы между устройствами, которые обычно не взаимодействуют друг с другом, и интернет-провайдеры смогут это обнаружить.
Команда заявила, что провайдеры смогут изолировать заражённых клиентов, а производителям следует по умолчанию выпускать устройства с более надёжной защитой.
Это исследование появилось после другого заявления Anthropic на прошлой неделе: компания сообщила, что во время тестирования модель Claude отправила полиции ложное сообщение об убийстве.
Опубликовано 12 октября 2026 - 23:55 Наверх
