IBM вкладывает $240 млн в дешевый инференс на базе открытого исходного кода, чтобы бросить вызов гиперскейлерам

Многолетнее соглашение со стартапом Together AI позволит разместить системы Nvidia Blackwell в облаке IBM Cloud, а расчет делается на то, что корпоративных клиентов теперь больше волнует стоимость работы ИИ, чем престиж самой модели.

В IBM решили, что деньги в сфере искусственного интеллекта больше не ограничиваются созданием самой умной модели — теперь главное запускать ее с наименьшими затратами, и компания подкрепила это убеждение суммой в $240 млн.

Компания заключила многолетнее соглашение с Together AI — стартапом из Сан-Франциско — о развертывании крупномасштабного кластера ИИ-инференса на базе IBM Cloud. Этот шаг напрямую нацелен на предприятия, пытающиеся сократить расходы на ИИ.

Кластер будет работать на системах Nvidia HGX B300, созданных на архитектуре Blackwell, которую Nvidia позиционирует как специально оптимизированную для инференса. Они объединены с помощью фирменной Ethernet-сети Spectrum-X — по тому же рецепту, за которым следует целая волна профильных компаний, делающих ставку на то, что настоящая прибыль от ИИ кроется в дешевом инференсе, а не в постоянном увеличении масштабов обучения моделей.

Together AI — весьма любопытный партнер для выбора. По состоянию на июль ее стоимость оценивалась в $8,3 млрд, а ее платформа позволяет компаниям обучать рабочие нагрузки и запускать их на моделях с открытым исходным кодом, включая DeepSeek, MiniMax и Kimi. Компания позиционирует себя как более дешевую и гибкую альтернативу закрытым проприетарным системам, которые доминируют в заголовках СМИ.

Сообщается, что платформа обрабатывает около 400 триллионов токенов в месяц. Этот показатель дает некоторое представление о том, какой объем «сырого» инференса проходит через эти каналы и почему такой старожил индустрии, как IBM, хочет получить свою долю этого трафика в собственном облаке.

Инференс — процесс непосредственного ответа на запросы после обучения модели — незаметно стал одним из главных драйверов спроса на вычислительные мощности, именно поэтому данное направление привлекло такой шквал инвестиций и талантов.

Недавно компания Nebius заплатила $643 млн за приобретение команды из 20 человек, работающих над оптимизацией инференса — цену, которая имеет смысл только в том случае, если вы верите, что маржинальность сегодня кроется именно в снижении стоимости одного токена.

Вторая сторона этой истории — постепенный сдвиг корпоративного сектора в сторону открытого исходного кода. Предприятия стремятся сократить расходы на ИИ, а открытые модели завоевывают реальную популярность внутри крупных организаций.

Не последнюю роль играет и аспект безопасности: опасения по поводу кибербезопасности при использовании закрытых моделей от Anthropic, OpenAI и Meta называются одной из причин, почему некоторые фирмы предпочитают запускать то, что они могут самостоятельно проверить и разместить у себя.

Все это далеко не чисто техническое предпочтение: для банка или больницы возможность хранить конфиденциальные данные на контролируемой инфраструктуре зачастую является главным приоритетом.

Для IBM размещение дешевого инференса на базе открытого исходного кода — это способ вступить в борьбу, которую она вполне способна выиграть.

Компания изначально не собиралась тягаться с Amazon, Microsoft или Google по масштабам облачной инфраструктуры, поэтому позиционирование IBM Cloud как площадки для доступного запуска открытых моделей позволяет ей конкурировать за счет экономической эффективности, а не размеров. Это также идеально совпадает с растущим в Европе спросом на инфраструктуру, не привязанную к какому-то одному американскому гиганту.

Этот спрос проявляется и в других регионах. Стремление создать инфраструктуру для инференса, которой предприятия и правительства могут доверять и которую могут контролировать, привело к появлению таких компаний, как TensorX. Она привлекла €8 млн для создания суверенного ИИ-инференса для Европы на базе Nvidia Blackwell, что служит напоминанием: тот самый кремний, который лежит в основе ставки IBM, используется в более широкой дискуссии о том, кому принадлежит цифровая «сантехника».

Во всем этом чувствуется дух золотой лихорадки, и IBM это прекрасно понимает. Соперничество между открытыми и закрытыми решениями в корпоративном ИИ часто преподносилось как спор о возможностях.

Тем не менее, более важная битва разворачивается вокруг цен, и кластер стоимостью $240 млн, наполненный чипами Blackwell, — это способ IBM заявить, что она предпочитает продавать кирки и лопаты, а не пустые обещания.

Окажется ли дешевый открытый инференс столь же востребованным и прибыльным, на что надеются его сторонники — это ставка, которую втайне делает весь сектор, и кластер стоимостью $240 млн является одним из самых крупных ее проявлений на данный момент.