Гиганты в сфере ИИ только что разошлись во мнениях с OpenAI и Anthropic по поводу открытых весов

Индустрия искусственного интеллекта открыто определилась со своей позицией. В пятницу 25 компаний и организаций опубликовали открытое письмо «Открытые весы и американское лидерство в сфере ИИ», в котором призвали Вашингтон не вводить жесткие ограничения на ИИ с открытыми весами, сообщает Business Insider.

Список имен внушителен: Nvidia, Microsoft, Meta, Mistral, Palantir, IBM, Andreessen Horowitz, Hugging Face, Mozilla и Linux Foundation. Дженсен Хуанг представил его своей первой в истории публикацией в X, которая набрала более 11 миллионов просмотров.

«В своем первом посте я делюсь письмом, которое подписала Nvidia, о том, почему открытые модели имеют значение», — написал глава Nvidia. «Миру нужны как передовые закрытые модели, так и передовые открытые модели».

В письме проводится параллель с 1980-ми годами: открытые весы преподносятся как преемники программного обеспечения с открытым исходным кодом, которое сегодня «поддерживает большую часть интернета». В нем утверждается, что лидерство Америки в сфере ИИ «будет определяться не одной передовой моделью ИИ, а тем, создадут ли Соединенные Штаты сильную открытую экосистему».

Кто не подписал

Отсутствие определенных имен говорит о многом. OpenAI, Anthropic и Google не подписали письмо. Они являются <премиальными/закрытыми>лидерами в области закрытых моделей.

Каждая из этих компаний выиграла бы, если бы Вашингтон заблокировал китайских производителей открытых моделей, таких как Moonshot. Созданная ими модель Kimi K3 является самой мощной в мире моделью с открытыми весами. Это письмо фактически означает, что остальная часть индустрии выступает против них. Оно появилось через день после того, как почти 200 стартапов обратились с аналогичной просьбой к Белому дому.

Лагерь сторонников закрытых моделей не стал этому препятствовать. Альтман заявил, что «рад видеть» такую поддержку. Генеральный директор Microsoft Сатья Наделла поддержал это послание в тот же день, сообщает CNBC.

Даже Маск, чья компания SpaceX не подписала письмо, сделал репост публикации Хуанга: «Это пользуется моей полной поддержкой. Дженсен прав».

Переворот аргумента о безопасности

Самый смелый шаг авторов письма — перенаправить аргумент о безопасности против закрытых лабораторий. Полагаться исключительно на закрытые модели «небезопасно по своей сути», говорится в нем, поскольку они «могут быть взломаны, использованы не по назначению или дать сбой способами, которые посторонние не могут обнаружить». Сосредоточение ИИ в рамках нескольких закрытых моделей создает «единые точки отказа».

Открытость же, напротив, «может стать одним из важнейших путей к обеспечению безопасности ИИ». Это прямой ответ компаниям OpenAI и Anthropic, которые сделали безопасность главным аргументом в пользу ограничения китайских открытых моделей.

Проблема Китая

Выбор времени выглядит вполне очевидным.

На этой неделе представитель Белого дома Майкл Крациос обвинил Moonshot в создании Kimi K3 путем дистилляции модели Fable 5 от Anthropic. Министр финансов Скотт Бессент намекнул на санкции за дистилляцию, которую он сравнил с воровством.

В письме дистилляция называется «широко используемым методом», однако авторы не оправдывают любые злоупотребления. По словам подписантов, политики не должны «смешивать легитимные методы разработки моделей с незаконным присвоением», а незаконное извлечение данных заслуживает «целевых» правил, «а не всеобъемлющих ограничений».

Здесь присутствует как личная заинтересованность, так и неприятная правда. Nvidia продает чипы всем. Meta, Mistral и Hugging Face создают открытые модели. Все они выигрывают от распространения открытого ИИ. При этом США отстают именно в той сфере, за которую выступают авторы письма, в то время как Китай сейчас лидирует в области, некогда определявшейся Америкой.

Подписавшиеся хотят, чтобы Вашингтон сохранил «многообразие передовых разработок» и избегал «преждевременных ограничений», которые «подавляют конкуренцию или стимулируют инновации за рубежом». Сможет ли Америка все еще выиграть гонку, в которой она в настоящее время проигрывает — это вопрос, на который письмо не может дать ответ.