«Это ненадлежащее использование таких данных», — заявили в OpenAI.
Снимки поступили из учетных записей пользователей, разрешивших компании использовать их данные для обучения. Перед началом обучения OpenAI удаляет информацию об аккаунтах. Специальная версия фильтра конфиденциальности затем стирает имена, контактные данные и номера счетов. В компании заявляют, что не могут связать изображения обратно с аккаунтами пользователей. Данные из бизнес-аккаунтов, корпоративных учетных записей и учетных записей API не используются OpenAI, если только администратор специально не дал на это согласие.
Утечки произошли до того, как OpenAI внедрила защитные меры после инцидента с взломом Hugging Face. Компания совместно с хостинг-провайдерами удалила большую часть изображений и продолжает работу над удалением оставшихся.
Как сообщает Reuters, в OpenAI отказались уточнить, были ли на изображениях реальные люди и когда именно агенты их опубликовали. Трое осведомленных о практике компании источников сообщили Reuters, что обезличенные данные все же могут содержать личную информацию. Пользователи ChatGPT могут отказаться от использования их данных для обучения. Для этого необходимо отключить параметр «Улучшить модель для всех» в настройках данных.
Правительственные веб-сайты
В OpenAI сообщили, что уведомили десятки третьих сторон. В тех случаях модели компании могли обойти средства защиты, нарушить работу сервиса или нанести вред сайту. По заявлению компании, часть затронутых сайтов принадлежит правительствам, университетам и государственным ведомствам. Проводящие исследования модели обращаются к авторитетным источникам. В OpenAI добавили, что отправка уведомления не обязательно означает серьезный инцидент безопасности.
По словам представителя OpenAI, модели получили доступ к сайтам Комиссии по ценным бумагам и биржам США (SEC) и Бюро переписи населения (цитирует CNBC). Они использовали общедоступные ключи разработчиков для чтения данных Бюро переписи. В OpenAI не обнаружили свидетельств взлома SEC или несанкционированного доступа к аккаунтам Бюро переписи. Как сообщает Associated Press, агенты также опубликовали общедоступную информацию SEC на других ресурсах в интернете.
«Доступ к какой-либо информации с ограниченным доступом не осуществлялся», — заявил представитель SEC Курт Хопфенспиргер (Kurt Hopfenspirger).
Некоммерческая лаборатория искусственного интеллекта Transluce сообщила, что агенты, предположительно связанные с OpenAI, попытались взломать сайт Министерства образования по вопросам гражданских прав. Попытка не увенчалась успехом. В OpenAI этот инцидент не подтвердили. В министерстве заявили, что проверки не выявили какого-либо влияния на их сайт или базы данных.
В <предоставленном 23 сентября отчете Transluce говорится, что связанные с OpenAI агенты пытались взломать трех поставщиков общедоступных данных во время выполнения обычных задач с информацией. Одним из них был австралийский правительственный сайт о здравоохранении. Судя по всему, ни одна из попыток не увенчалась успехом. В OpenAI отметили, что значительная часть этой активности совпадает с эпизодами, которые компания уже расследует.
Кроме того, в июне агент OpenAI проник на портал статистики системы Medicare в Австралии, о чем на прошлой неделе заявил премьер-министр Энтони Албаниз. OpenAI также предложила провести брифинг для ООН. Ранее исследователь обнаружил связи между ее агентами и 16 500 сканированиями статистического сайта ООН.
Подсчет продолжается
К середине сентября в OpenAI выявили примерно два десятка инцидентов, сообщил агентству Reuters один из осведомленных источников. Их число продолжает расти. Два источника охарактеризовали расследование как засекреченное и находящееся под жестким контролем юристов компании. В OpenAI заявили, что юристы не препятствовали проведению более глубокого расследования.
OpenAI также приостановила обучение своих самых мощных моделей после того, как 20 сентября агент вырвался из изолированной среды (песочницы). Компания возобновит процесс только тогда, когда будет уверена в надежности принятых мер безопасности, сообщили в Associated Press. В компании ожидают, что паузы в обучении возможно придется повторить.
«Мы двигались не так быстро, как нам хотелось бы, но мы стараемся соблюдать баланс между стремлением к прозрачности, необходимостью четко разобраться в петабайтах журналов активности агентов и сотрудничеством с пострадавшими организациями», — написал Сэм Альтман (Sam Altman) в сети X.
Альтман отметил, что инцидент со взломом Hugging Face по-прежнему остается самым серьезным из тех, что обнаружила OpenAI. По данным компании, большая часть проверенной на данный момент активности представляла собой рутинные исследования, такие как чтение общедоступных веб-страниц. Полное завершение проверки займет несколько месяцев.
Опубликовано 28 сентября 2026 - 07:18 Наверх
