Google создает чип со встроенной в кремний моделью Gemini

Большинство ИИ-чипов являются универсальными. Вы загружаете на них модель, и они ее запускают. Согласно сообщениям, Google пытается создать нечто более необычное: чип, который сам по себе является моделью, с архитектурой Gemini, вытравленной прямо в аппаратном обеспечении.

Об этом проекте, неофициально названном «Frozen v2», сообщило издание The Information, а подхватили Reuters и Bloomberg Law. На фоне этих новостей акции Alphabet выросли на 3,7%. Google пока не подтвердила существование проекта, и до появления чипа пройдет еще несколько лет. Но лежащая в его основе идея — это серьезная ставка на то, куда дальше будет развиваться инфраструктура искусственного интеллекта.

Что означает «замороженный»

Современные чипы хранят модель в памяти и постоянно пересылают ее данные туда и обратно. Такая гибкость требует больших затрат энергии и времени.

Frozen v2 встроит нейросетевую архитектуру Gemini прямо в микросхему. Аппаратное обеспечение фиксируется под форму текущего ИИ-дизайна Google. Инженеры по-прежнему смогут обновлять модель, загружая новые веса, но лежащая в основе структура остается неизменной, или «замороженной». Сообщается, что масштаб жесткого кодирования модели еще обсуждается.

Главная выгода — эффективность. По данным The Information, новый чип может быть в 6–10 раз эффективнее новейших специализированных ИИ-чипов Google, если измерять это количеством генерируемых токенов на единицу потребляемой энергии. Это будет совершенно новая линейка кремниевых процессоров, которая не заменит TPU от Google, а станет отдельным решением. Развертывание запланировано на 2028 год.

Почему это важно

Выбор времени не случаен. По информации The Information, проект Frozen v2 отчасти является ответом на дефицит вычислительных мощностей ИИ внутри Google. Этот кризис настолько серьезен, что Google Cloud даже пришлось отказать некоторым сторонним клиентам, что вызвало напряжение внутри компании.

Эффективность сейчас — это главное. Запуск ИИ-моделей обходится невероятно дорого, и каждый ватт, сэкономленный в масштабах дата-центра, — это сэкономленные деньги. Чип, оптимизированный под одну конкретную модель, позволяет избавиться от множества накладных расходов, присущих универсальным процессорам.

Кроме того, он будет работать быстро. Поскольку дизайн фиксирован, чип может отвечать с минимальной задержкой. Как отметил один из наблюдателей, это идеально подходит для задач реального времени, таких как голосовые ассистенты, где задержка является главным врагом.

Здесь есть и стратегический аспект. Google уже разрабатывает собственные TPU, чтобы снизить зависимость от Nvidia. Чип, созданный специально для Gemini, усилит эту независимость, продолжая курс компании на <и распределение заказов на чипы> между различными поставщиками.

Google не одинок

Такой подход характерезирует не только Google. Стартап под названием Taalas уже продвигает эту идею, записывая веса и архитектуру модели прямо на чип под названием Hardcore.

Заявленные показатели впечатляют. В Taalas утверждают, что их чип выдает до 17 000 токенов в секунду по сравнению с примерно 150 токенами на пользователя у топового графического процессора Nvidia. По их словам, им не требуется дорогая память с высокой пропускной способностью, что поможет смягчить кризис памяти, охвативший всю индустрию.

Такова глобальная ставка. Если модель может существовать прямо в кремнии, вы жертвуете гибкостью ради скорости, стоимости и энергоэффективности. Для компании, которая предоставляет одну модель миллиардам людей, такой компромисс вполне оправдан. Это то же стремление, которое стоит за попытками сжимать модели для работы на телефонах.

Подводные камни

Очевидный риск — это жесткость конструкции. ИИ развивается стремительно, и чип, созданный под сегодняшнюю версию Gemini, к 2028 году может устареть. В дизайне Google эту проблему пытаются смягчить за счет возможности обновления весов, но сама архитектура все равно задается заранее.

Не стоит забывать и об отсутствии официального подтверждения. Google никак не прокомментировала этот проект. Представитель компании лишь заявил, что их команды постоянно экспериментируют с высокоэффективными решениями, и далеко не каждый лабораторный проект доходит до стадии производства.

Поэтому воспринимайте Frozen v2 как сигнал, а не как готовый продукт. И этот сигнал вполне однозначен. Гонка за кастомными ИИ-чипами переходит от создания процессоров общего назначения к прямому слиянию модели с «железом». Если Google удастся довести дело до конца, ее конкурентам придется дать на это достойный ответ.