«Универсальных решений нет»: AMD покупает стартап, который «впаивает» ИИ-модели в кремний

Компания AMD объявила о сделке в четверг после закрытия торгов, не уточнив ее сумму. Стартап Taalas, основанный в 2023 году, разрабатывает так называемые специализированные под конкретные модели чипы. Вместо того чтобы загружать веса из памяти, он «вшивает» их прямо в кремний. В AMD заявили, что эта технология пополнит дорожную карту ускорителей компании и будет использоваться наряду с графическими процессорами Instinct.

«Я твердо убежден, что в сфере чипов не существует универсальных решений», — заявила генеральный директор AMD Лиза Су на мероприятии в июле. Эта фраза отражает всю логику сделки. Индустрия четыре года занималась покупкой универсальных графических процессоров. Теперь AMD делает ставку на то, что на следующем этапе в цене будет нечто гораздо более узкоспециализированное.

Что на самом деле создала Taalas

Обычный ИИ-чип разделяет память и вычислительные блоки, а затем тратит колоссальные ресурсы на пересылку данных между ними. Именно из-за этого разрыва современным системам требуются многослойная память, экзотические варианты корпусировки и жидкостное охлаждение. Taalas объединяет эти два компонента. Ее сооснователь Любиша Байич утверждает, что в результате ничего из этого больше не нужно: ни памяти с высокой пропускной способностью, ни 3D-компоновки, ни жидкостного охлаждения.

Заявления о производительности звучат впечатляюще. Первый чип Taalas запускает модель LLaMA 3.1 от Meta со скоростью около 17 000 токенов в секунду на пользователя, что, по утверждению компании, в разы превосходит показатели ведущих графических процессоров при значительно меньших затратах энергии и стоимости. Таковы собственные данные компании. Кроме того, первая версия чипа полагается на агрессивное сжатие, которое ухудшает качество генерации.

Эту модель придется полюбить всерьез и надолго

Такова цена вопроса. Жестко «вшивая» модель в чип, вы связываете себя с ней узами брака. Новые модели теперь появляются практически ежемесячно, а серьезные изменения означают необходимость перевыпуска кремния. Taalas смягчает этот удар: перепроектировать нужно только два металлических слоя чипа, поэтому новую модель можно внедрить примерно за два месяца вместо шести.

И все же покупателям придется быть предельно уверенными в своем выборе. «Вам лучше действительно полюбить эту модель», — как отмечает The Register. На практике клиентами, скорее всего, станут крупные лаборатории искусственного интеллекта и провайдеры инференса — те немногие игроки, которые достаточно уверены в конкретной модели, чтобы воплотить ее в кремнии.

Большая гонка

AMD не одинока. Эта сделка перекликается с покупкой компании Groq за $20 млрд, совершенной Nvidia в декабре, а также с приобретением стартапа-компилятора Modular компанией Qualcomm в июле. Anthropic создает собственную команду разработчиков чипов, чтобы адаптировать «железо» под свои модели. Все сходятся в одной идее: подбирать чип строго под рабочую нагрузку.

Для AMD покупка Taalas укладывается в рамки более масштабной стратегии. Весь год компания формировала стек для задач инференса вокруг своих стоек Helios и подписывала гигаваттные контракты с такими игроками, как Anthropic и OpenAI. Они продают гибкие графические процессоры гигаваттами. Taalas предлагает противоположное — экстремальную эффективность для модели, которая зафиксирована в своем развитии.

Главная цель всего этого — бросить вызов Nvidia, чьи универсальные чипы сделали ее самой дорогой компанией в мире. По мере того как искусственный интеллект смещается от этапа обучения моделей к этапу их запуска (инференса), это влияние начинает постепенно ослабевать. AMD сделала ставку на то, что будущее инференса — за узкоспециализированными, быстрыми и жестко зафиксированными в кремнии решениями. Ожидается, что сделка будет закрыта в четвертом квартале.