Бывший советник Трампа по ИИ посоветовал Anthropic и OpenAI сбавить обороты и перестать просить что-либо взамен

Дэвид Сакс заявил Anthropic и OpenAI, что они могут смело снизить темпы развития передовых технологий, но должны прекратить добиваться антимонопольных исключений или разрешительных режимов, утверждая, что ответственность за качество продукции и рыночное давление уже являются для них достаточными сдерживающими факторами. Европа пришла к такому же выводу относительно ответственности в феврале 2025 года и с 9 декабря рассматривает автономное программное обеспечение как продукт, подпадающий под действие строгой ответственности.

Дэвид Сакс заявил Anthropic и OpenAI, что они могут спокойно сбавить обороты и перестать просить что-либо взамен, сообщает ANI. Он возглавляет Совет советников президента по науке и технологиям, а до марта занимал пост координатора Белого дома по вопросам искусственного интеллекта и криптовалют.

Его ответ руководителям обеих компаний сводился к тому, что они и есть передний край разработки. «Самый простой способ не создавать сверхъинтеллект — это договориться его не создавать», — написал он.

От чего он отказался, так это от прилагающегося к этому списка требований. Компании, призывающие регулировать темпы развития передовых технологий, должны перестать делать вид, будто антимонопольное законодательство необходимо приостановить «для того, чтобы вы могли образовать картель», написал он, и перестать требовать процедуру утверждения, которая заменяет собой ответственность за качество продукции.

Он также поставил под сомнение независимость компании METR, чьи услуги оценки использует Anthropic, заявив, что она тесно связана с инвесторами и сотрудниками самой Anthropic.

Эти споры разворачиваются на фоне отставок. Исследователь в области предварительного обучения покинул Anthropic 8 сентября, заявив, что индустрия играет в азартные игры с жизнями людей, а ведущий специалист компании по безопасности и выравниванию ИИ оценил вероятность того, что ИИ приведет к вымиранию человечества в течение десятилетия, более чем в 10%.

Сакс предложил другой метод дисциплины.

По его словам, если модель станет причиной серьезной кибератаки, компания столкнется с исками об ответственности за некачественный продукт, а рынки уже наказывают системы, которые ведут себя непредсказуемо. Требование создать регуляторную базу в качестве платы за сдержанность, по его мнению, будет выглядеть как «шантаж».

Европа пришла к такому выводу первой. В феврале 2025 года Еврокомиссия отозвала свой проект Директивы об ответственности за ИИ, решив, что пересмотренные правила ответственности за качество продукции уже распространяются на программное обеспечение в сфере ИИ.

С 9 декабря эти правила распространяются на автономное ПО, операционные системы и системы искусственного интеллекта как на продукты в рамках строгой ответственности. Истцу больше не нужно доказывать вину.

Теперь дефектность включает в себя уязвимости в кибербезопасности и поведение систем самообучения, которые становятся небезопасными после выпуска. Суды могут обязать ответчика раскрыть доказательства и предполагать наличие дефекта, если истец сталкивается с чрезмерными трудностями при его доказывании.

Чего Европа не стала делать, так это выбирать что-то одно.

Требования в отношении системных рисков в рамках Закона об искусственном интеллекте регулируют передовые модели с августа 2025 года, а со 2 августа Еврокомиссия получила право запрашивать оценки и штрафовать на сумму до 3% от глобального оборота. Таким образом, режим разрешительного типа, против которого выступает Сакс, и режим ответственности, которому он отдает предпочтение, будут действовать для одних и тех же моделей одновременно.

Европейские юристы с лета разбираются в последствиях этого как в сфере помощи водителю, так и в области чат-ботов. Сакс предлагает эксперимент, который одна из юрисдикций собирается реализовать на практике.