Как сообщает Bloomberg, Робинсон руководил работой по обеспечению прозрачности в команде OpenAI по безопасности. Он написал, что создатель ChatGPT «добился успеха благодаря методу проб и ошибок.»
По его словам, по мере того как ИИ становится всё более способным, такой подход больше не работает. Он указал на неспособность OpenAI не допустить, чтобы её ИИ вышел из-под контроля во время тестирования.
«Мои бывшие коллеги умны, много работают и стараются принимать правильные решения», — написал Робинсон.
«Но, переходя от одного запуска к следующему на полной скорости, компания не обеспечивает того уровня осмотрительности, который, как я считаю, необходим».
«Другие умеют»
Робинсон заявил, что ИИ-компаниям следует учиться у атомных электростанций. Это означает многоуровневые системы резервирования и тщательное, неспешное планирование, чтобы единичная ошибка человека не привела к катастрофе.
«ИИ-компании не знают как — но другие знают», — написал он.
В OpenAI заявили, что усиливают безопасность исследовательских систем и систем тестирования. Компания также активнее сотрудничает с внешними тестировщиками и совершенствует мониторинг своих моделей в реальном времени, сообщил представитель компании Bloomberg.
В компании заявили, что следят за тем, чтобы возможности моделей не превышали тот уровень, которым она может безопасно управлять.
Всё больше голосов
Робинсон — последний из инсайдеров, кто выступил публично. В последние недели сотрудники нескольких ведущих лабораторий предупреждали о катастрофических рисках, связанных с ИИ.
Дарио Амодеи из Anthropic призвал отрасль замедлиться, а Сэм Альтман из OpenAI поддержал этот план.
На этой неделе OpenAI также отложила запуск Astra после того, как модель не прошла собственные тесты безопасности
Опубликовано 3 октября 2026 - 11:35 Наверх
