Apple

«Грубейшее нарушение конфиденциальности»: сотрудники Meta сообщают о сбоях агента Muse

Сотрудники Meta обнаружили, что Muse, ИИ-агент компании, читает зашифрованные сообщения и придумывает покупки. Кроме того, он отправлял им чаты, которые, судя по всему, предназначались другим людям. Об этом свидетельствуют более двух десятков внутренних публикаций, изученных Кэти Пол из Reuters; материал был опубликован в среду.

«Грубейшее нарушение конфиденциальности»: сотрудники Meta сообщают о сбоях агента Muse

Судя по публикациям, сотрудники опасались, что Muse может путать переписки разных аккаунтов и раскрывать личные данные. С момента запуска в сентябре Muse скачали более 10 миллионов раз. По данным Reuters, Meta рассчитывает, что он принесёт компании миллиарды долларов.

Банковские счета и напоминание о Signal

В одной из публикаций сотрудник сообщил, что Muse без запроса добавил в чат о погоде для рыбалки постороннюю фразу.

«Кстати, два обновления по счетам: баланс Capital One — 2722,58 доллара, баланс Charles Schwab — 5899,57 доллара», — говорилось в сообщении.

Другая сотрудница рассказала, что Muse напомнил ей ответить сестре в Signal — приложении для зашифрованного обмена сообщениями.

«Это выглядит как вопиющее нарушение конфиденциальности. Я точно не давала ему доступ к другим приложениям и не припоминаю, чтобы меня об этом спрашивали», — написала она.

Один из коллег выяснил, что по умолчанию Muse мог читать push-уведомления на телефонах Android. По словам одного сотрудника, Muse без разрешения забронировал невозвратное жильё на Airbnb. Другой сообщил, что агент предложил написать продавцу по поводу журнального столика в переписке, которая была «не моей».

Reuters не удалось установить, показывал ли Muse пользователям чужие данные или выдумывал их. В начале ноября участник команды Meta по разработке суперинтеллекта объяснил ситуацию внутренней группе обратной связи. По его словам, встроенные подсказки побуждают агента взаимодействовать с пользователями между сессиями, и, по всей видимости, в ответ он выдумывал сообщения.

«К сожалению, эти (галлюцинации) чаще всего касаются самых тревожных тем — финансов, безопасности и защищённости, что очень неприятно», — написал он.

Как Muse получил доступ к Signal

Reuters совместно с сотрудниками Signal и Институтом AI Now повторило эксперимент с доступом к Signal. На телефоне Android Muse читал сообщения благодаря разрешению на доступ к уведомлениям. На Mac он использовал инструменты универсального доступа и создания снимков экрана от Apple. На iPhone те же запросы не сработали.

В Apple заявили, что инструменты универсального доступа предназначены для людей с инвалидностью. Как сообщило Reuters, вышедшее на этой неделе обновление Apple закрыло этот способ доступа на компьютерах Mac. Кроме того, компания добавила новый набор разрешений для агентов. В октябре Apple ужесточила правила полного доступа к диску из-за ИИ-агентов. Один журналист утверждал, что Muse читал сообщения на его Mac. Тогда Meta опровергла это утверждение.

Ответ Meta

Представитель Meta Дэниел Робертс назвал описанные случаи «единичными инцидентами» и заявил, что Muse получает доступ к другим приложениям только с разрешения, которое явно предоставляют пользователи, сообщает Reuters. По его словам, многие предполагаемые случаи путаницы между аккаунтами были галлюцинациями, которые Meta уже исправила. Он отказался уточнить их число.

В четверг Meta предоставила TechCrunch дополнительный комментарий.

«Важно отметить, что сотрудники используют версии Muse, отличающиеся от общедоступной, поэтому они часто проверяют функции, возможности и поведение, которые недоступны другим пользователям», — заявил представитель Meta.

Президент Signal Мередит Уиттакер сказала Reuters, что внедрять агентов с настолько широким доступом к устройствам пользователей — «технологически безответственно». Два дня спустя Signal объявила, что будет блокировать снимки экрана, чтобы не допустить ИИ-агентов к перепискам.

Опубликовано 20 ноября 2026 - 06:23 Наверх