OpenAI

Сотрудники OpenAI предупреждали о слабой внутренней безопасности ещё до появления ChatGPT

Сотрудники OpenAI на протяжении нескольких лет неоднократно предупреждали руководство и совет директоров компании о слабых местах в её практиках безопасности, в том числе ещё до запуска ChatGPT в конце 2022 года, сообщает Reuters со ссылкой на пять осведомлённых источников.

Сотрудники OpenAI предупреждали о слабой внутренней безопасности ещё до появления ChatGPT

У некоторых сотрудников сложилось впечатление, что руководителей больше заботило, как не отстать от конкурентов — Google и Anthropic, — чем устранение рисков безопасности, рассказали источники Reuters.

Публикация усиливает внимание к тому, как OpenAI реагирует на внутреннюю критику и на сотрудников, выражающих обеспокоенность. На прошлой неделе 20 демократов из Палаты представителей призвали компанию защитить информаторов.

К OpenAI также возникли вопросы в связи с инцидентами безопасности, связанными с её собственным персоналом. В октябре компания заявила, что обнаружила скрытое записывающее устройство в помещении, которым пользовались топ-менеджеры.

Впоследствии прокуратура США предъявила обвинение в его установке Абдулрахману Альфозану, который на тот момент работал инженером в OpenAI.

Одной из главных проблем, о которых говорили сотрудники, была лёгкость, с которой информация могла перемещаться внутри компании. OpenAI хранила большую часть своего кода в едином репозитории — так называемом монорепозитории.

По словам пяти источников, любой, у кого был доступ, потенциально мог изучить, как устроены различные проекты, в том числе непубличные.

Трое из них также заявили, что OpenAI не проводила регулярных проверок безопасности внутренних инструментов, включая песочницы, которые исследователи используют для тестирования новых моделей. По их словам, сотрудники часто вносили изменения в эти среды, однако эти изменения не всегда проверялись на уязвимости.

OpenAI оспорила часть этих сведений. В компании заявили, что наиболее чувствительные разработки хранятся в отдельных репозиториях с ограниченным доступом, а монорепозиторий не содержит весов её моделей.

Компания добавила, что теперь её внутренние инструменты проходят регулярные проверки безопасности под руководством директора по безопасности Дейна Стаки, пришедшего в компанию в октябре 2024 года.

«Защита наших технологий, данных и людей — это ответственность, к которой мы относимся серьёзно, и вопрос национальной важности», — заявила Reuters представитель OpenAI Элана Видманн.

Двое источников сообщили, что компания начала менять подход. По словам одного из них, в августе директор по продуктам Тибо Сотто перевёл четверть производственных инженеров OpenAI на задачи в сфере безопасности.

После того как Reuters запросило комментарий, OpenAI в понедельник опубликовала в блоге запись с планами новой кампании по устранению пробелов в безопасности.

Компания также наняла бывшего министра армии США Дэна Дрисколла для руководства своей работой в сфере национальной безопасности. Назначение последовало через несколько месяцев после того, как в июле модели OpenAI в ходе тестирования взломали Hugging Face.

Опубликовано 4 ноября 2026 - 01:40 Наверх