Критика Кэлвина последовала за ответом Anthropic на негативную реакцию вокруг утекшего законопроекта о безопасности ИИ. 19 октября он написал, что компания в своем ответе «все еще по-настоящему не затрагивает суть» проблемы. Амодеи опубликовал ответ рано утром в среду. Пост набрал более 800 000 просмотров.
«Наша стратегия всегда заключалась в том, что я называю „гонкой к вершине“, — написал Амодеи. — Показывая, что эту технологию можно создавать ответственно, мы можем поднять планку для всей отрасли».
Он сказал, что такая стратегия работает, только если компания, которая ее придерживается, находится на передовом рубеже. По его словам, он «гордится нашими результатами» и не отказывается от выбранного курса.
Спасибо за это, @_NathanCalvin. Я ценю вашу работу по расследованию вопросов безопасности ИИ и восхищаюсь ею. Уверен, что ваши комментарии продиктованы искренним желанием конструктивно разобраться в ситуации.
Дарио Амодеи (@DarioAmodei) 21 октября 2026 года
Девять решений
По словам Амодеи, модели класса Mythos впервые появились у Anthropic в феврале. Компания открыла к ним общий доступ только в июне, когда были внедрены более надежные меры киберзащиты. До этого ими могла пользоваться лишь небольшая группа партнеров, работающих над киберзащитой. Ранее в этом месяце Anthropic заявила, что китайская модель GLM-5.3 почти не уступает Mythos в создании киберэксплойтов.
«Вероятно, мы пожертвовали значительной частью преимущества в несколько месяцев, которое давало нам лидерство в разработке модели», — написал Амодеи.
Он сказал, что меры биологической безопасности Anthropic настолько строгие, что биологи шутят над ними, а конкуренты порой используют этот момент в борьбе за клиентов. По его словам, Anthropic выявила и заблокировала возможные попытки применить ее модели для создания биологического оружия.
В список также вошли роль Anthropic в принятии калифорнийского закона о безопасности SB 53 и призыв Амодеи, прозвучавший в июне, наделить правительство полномочиями блокировать выпуск моделей. Кроме того, он упомянул поддержку компанией экспортных ограничений на поставки чипов в Китай. Амодеи заявил, что, насколько ему известно, Anthropic — единственная компания, разрабатывающая передовые модели, которая ограничила продажи компаниям под контролем Китайской Народной Республики. Он отметил, что дистилляция — обучение одной модели на ответах другой — не представляет серьезной коммерческой угрозы, но вызывает опасения в сфере безопасности.
Последним пунктом стал новый фонд общественной пользы, которому принадлежит 5% акций Anthropic; со временем эта доля может увеличиться.
В чем Амодеи признал ошибки
Амодеи сказал, что Anthropic могла лучше отреагировать на три замечания Кэлвина. Он объяснил их «непродуманными формулировками или неудачной коммуникацией по вопросам политики» в компании, где работает более 5 000 человек.
«Разумеется, я генеральный директор и беру на себя ответственность», — написал Амодеи.
Замечание Кэлвина об изменениях в Политике ответственного масштабирования Anthropic — внутреннем своде правил безопасности компании — Амодеи назвал «самым существенным». Он сказал, что прежняя версия была слишком жесткой. По поводу создания отдельной системы контроля за соблюдением требований наряду с этой политикой он заявил, что «изучит этот вопрос подробнее».
Амодеи также сказал, что Anthropic приближается к моменту, когда развитие ИИ станет слишком стремительным, чтобы работа над безопасностью успевала за ним. По его словам, это влияет на подход компании к «темпам развития», и он «скоро расскажет об этом подробнее».
Критика в ответ
Сигал Сэмюэл, обозреватель Vox, пишущая об ИИ, попросила Амодеи в X привести доказательства эффективности этой стратегии.
«Со стороны кажется, что в конечном счете Anthropic скорее способствовала гонке на дно», — написала Сэмюэл.
Опубликовано 21 октября 2026 - 06:30 Наверх
