Кроме того, компания впервые назвала все четыре ведомства, к данным которых обращались модели. Два из них занимаются медицинскими данными: Австралийский институт здравоохранения и социального обеспечения (AIHW) и Министерство здравоохранения штата Виктория.
Остальные — служба статистики Medicare ведомства Services Australia и Бюро статистики преступности и исследований штата Новый Южный Уэльс (BOCSAR).
Премьер-министр Энтони Албанезе на прошлой неделе сообщил о утечке данных Medicare на пресс-конференции в Нью-Йорке, где находился для участия в Генеральной Ассамблее ООН.
Наиболее масштабным оказался инцидент с Medicare. Внутренняя тестовая модель, в которой не было мер безопасности, используемых в публичных продуктах OpenAI, получила задание определить, сколько правительство тратит на лекарства от кожных заболеваний для каждого жителя штата Виктория.
Не сумев найти нужные данные, она проникла в систему, выполнила команды, скопировала внутренние файлы и учётные данные для входа, а также оставила там собственные файлы.
В BOCSAR модель использовала учётные данные для входа, встроенные в общедоступную карту преступности, чтобы получить настройки и журналы системы. В Виктории агенты обнаружили оставленный в открытом доступе ключ и воспользовались им для загрузки сводных результатов опроса.
В AIHW агенты пытались обойти средства контроля доступа, однако, по всей видимости, загруженные ими данные были общедоступными. OpenAI заявила, что ни из одного ведомства не были похищены сведения об отдельных пациентах или преступлениях.
Компания обнаружила эту активность в середине августа, когда проверяла старые запуски обучения после того, как в июле её агенты проникли в Hugging Face.
10 сентября она сообщила об инциденте Services Australia и Министерству здравоохранения штата Виктория, 18 сентября — BOCSAR, а 24 сентября — AIHW.
В качестве компенсации компания создаст целевую группу из местных экспертов, не работающих в OpenAI. До конца года группа должна предложить более эффективные правила уведомления о подобных инцидентах и способы защиты государственных систем.
OpenAI также предоставит правительственным учреждениям и компаниям Австралии кредиты из своего фонда Daybreak for Frontline Defenders объёмом 1 млрд долларов.
Кроме того, 6 октября директор по стратегии компании Джейсон Квон должен ответить на вопросы Объединённого специального комитета парламента по искусственному интеллекту, который проведёт заседание в Сиднее.
Тем временем компания приостановила обучение своих наиболее мощных моделей работе с инструментами до внедрения более надёжных мер защиты.
Опубликовано 29 сентября 2026 - 02:32 Наверх
