Anthropic одинока в любой политической битве в сфере ИИ. Но всё равно побеждает.

Шесть месяцев назад компания Anthropic была любимицей американского бума искусственного интеллекта. Она лидировала в создании моделей и громче всех заявляла об этике. Этим летом она оказалась в одиночестве.

Создатель Claude теперь дер особняком практически в каждом крупном споре о политике в сфере ИИ, сообщает Axios. Это самый дорогой стартап в мире и одновременно самая изолированная лаборатория в индустрии. Оказывается, эти два факта связаны.

Одиночество в вопросе открытых весов

Самый явный признак проявился на прошлой неделе. Anthropic оказалась единственной передовой лабораторией, которая отказалась подписать открытое письмо с призывом к Вашингтону не ограничивать модели с открытыми весами. Во главе этого движения стоял Дженсен Хуанг из Nvidia. Google и OpenAI, два её главных соперника, оба поставили свои подписи. В результате Anthropic осталась единственной защитницей более жесткого контроля над той самой бизнес-моделью, на которую до сих пор опираются все трое.

Дарио Амодеи попытался уладить скандал самостоятельно. В своем блоге генеральный директор Anthropic настаивал на том, что компания никогда не призывала к запрету открытых моделей. Он даже назвал более слабые из них «общественным благом».

Тем не менее, он не стал ничего подписывать. Он также сохранил свою позицию о том, что опасные компоненты, в первую очередь передовые чипы, попадающие в авторитарные государства, нуждаются в более жестком контроле.

Изоляция на всех остальных фронтах

Эта тенденция повторяется по всем направлениям. В феврале Пентагон внес Anthropic в черный список после спора о том, можно ли использовать Claude для слежки или создания автономного оружия. Один из высокопоставленных чиновников оборонного ведомства заявил в пятницу, что «нет другой ИИ-компании, более враждебной по отношению к военнослужащим».

Что касается безопасности, Anthropic продвинулась дальше всех. Она поддержала государственные законы об ИИ и предложила создать регулятор по образу FAA (Федерального управления гражданской авиации) для проверки моделей перед их выпуском. Тем не менее, когда Белый дом указал на уязвимость в системе безопасности этим летом, Anthropic выразила сомнение в ее серьезности. Этот спор помог спровоцировать экспортный контроль, который вывел из строя две ее модели почти на три недели.

Кроме того, существует проблема дистилляции. Anthropic обвинила китайские лаборатории в обучении более дешевых моделей на результатах работы Claude в ходе кампаний «промышленного масштаба», сообщает The New York Times.

Критики называют дистилляцию нормальной частью разработки ИИ. Они также обращают внимание на неудачный выбор времени. Anthropic только что урегулировала судебный иск о защите авторских прав на сумму 1,5 млрд долларов из-за пиратских книг, использованных для обучения ее собственных моделей.

Одинока и всё равно побеждает

Эта изоляция не тотальна. На этой неделе Anthropic действительно присоединилась к более чем 1 100 сотрудникам из конкурирующих лабораторий в петиции, призывающей Вашингтон помочь «намеренно замедлить» развитие передового ИИ. Ее главная тревога — в том, что технология развивается быстрее, чем кто-либо может ее контролировать, — теперь разделяется всей индустрией.

И несмотря на все трения, Anthropic не проигрывает. Ее модели по-прежнему занимают верхние строчки в большинстве независимых бенчмарков, а предприятия продолжают платить премиальные цены, несмотря на ворчание по поводу стоимости и ограничений. В мае компания достигла оценки в 965 млрд долларов, опередив OpenAI, и движется к IPO, которое может оценить ее еще выше.

Черты, которые делают ее изгоем в любом политическом споре — осторожность и отказ прогибаться, — это те самые качества, которые обеспечили ей лидерство. Anthropic предпочитает быть правой, а не любимой, и на данный момент она может себе это позволить.