Русская версия The Next Web

Nvidia Искусственный интеллект Китай

Moonshot обучила Kimi K3 на 20 000 чипов Nvidia из облака Alibaba

Moonshot обучила Kimi K3 на 20 000 чипов Nvidia из облака Alibaba

Краткая суть

Moonshot обучила Kimi K3 на кластере из 20 000 чипов Nvidia от облачного сервиса Alibaba. Источники утверждают, что это H200. Alibaba опровергает тип чипов, но не саму сделку. Теперь Kimi превосходит собственные модели Qwen от Alibaba. Кроме того, Moonshot получила доступ к чипам Blackwell через Таиланд.

Компания Moonshot обучила Kimi K3 на кластере из 20 000 чипов Nvidia, предоставленном Alibaba, сообщило в четверг агентство Bloomberg. Эти чипы составляют значительную часть общей вычислительной мощности Moonshot. По данным многочисленных источников, соглашение заключено конкретно в отношении процессоров H200 — самых мощных ускорителей Nvidia поколения Hopper. В Alibaba опровергли поставку чипов H200, но не стали отрицать сделку с 20 000 чипов и отказались уточнить, какие именно процессоры в ней задействованы.

Эта ситуация выглядит весьма необычно. Alibaba является одним из крупнейших инвесторов Moonshot и рассчитывает, что поддерживаемые ею компании будут использовать её облако. Однако модель Kimi K3, обученная на инфраструктуре Alibaba, теперь превосходит собственные модели Qwen от Alibaba по ключевым бенчмаркам. Как сообщает Bloomberg, некоторые сотрудники внутри Alibaba разочарованы тем, что команда конкурентов, имея доступ к сопоставимым ресурсам, создала модель лучше их собственной. Kimi K3 была выпущена как крупнейшая в мире модель с открытыми весами, насчитывающая 2,8 триллиона параметров и не уступающая Fable 5 от Anthropic и GPT-5.6 от OpenAI по ряду метрик.

Вопрос происхождения чипов имеет высокую политическую взрывоопасность. Чиновник Белого дома Майкл Крациос обвинил Moonshot в незаконном приобретении самых передовых чипов Blackwell от Nvidia. Источник, знакомый с деятельностью Moonshot, подтвердил, что у компании есть канал доступа к процессорам Blackwell через Юго-Восточную Азию, однако не уточнил, идет ли речь об аренде (что в целом законно) или о прямой покупке (являющейся нарушением правил США). Сообщается также, что Moonshot ищет дополнительные чипы Blackwell для своей следующей модели. 20 000 чипов Hopper от Alibaba представляют собой отдельную договоренность, однако физическое местоположение этих вычислительных мощностей остается неясным. Китайские облачные компании иногда получают доступ к ограниченным чипам, принадлежащим иностранным фирмам в зарубежных локациях, и пересдают эти мощности в аренду на внутреннем рынке.

Крациос также заявил — без предоставления доказательств — что при обучении K3 компания Moonshot использовала дистилляцию модели Fable от Anthropic. Ранее Anthropic обвинила лабораторию Qwen компании Alibaba в проведении крупнейшей в истории кампании по дистилляции модели Claude с использованием 25 000 фальшивых аккаунтов. Теперь с аналогичным обвинением сталкивается Moonshot — портфельная компания Alibaba, использовавшая вычислительные мощности Alibaba. Экспортные ограничения задумывались для того, чтобы помешать китайским лабораториям получить доступ к чипам, необходимым для создания передовых моделей. Kimi K3 демонстрирует, что благодаря чипам Hopper по облачным соглашениям, доступу к Blackwell через посредников в Юго-Восточной Азии и предполагаемой дистилляции американских моделей эти ограничения не сработали так, как задумывалось.