Дискуссии об аппаратном обеспечении для ИИ зациклились на одном слове: вычисления. Стартап из Тель-Авива хочет заменить его на «память». Компания Majestic Labs, основанная в 2023 году бывшими инженерами Google и Meta, представила сервер, который, по ее заявлению, способен выполнять работу стойки с GPU от Nvidia. Для этого компания бьет по совершенно другому узкому месту.
Как сообщает TechRadar, суть подхода заключается в том, что связка дорогих графических процессоров с дефицитной памятью с высокой пропускной способностью стала тупиком для инференса ИИ. Запуск моделей часто упирается в то, к какому объему быстрой памяти вы можете получить доступ, а не в чистую вычислительную мощность. Поэтому Majestic отказалась от GPU.
В ее сервере Prometheus графические чипы заменены на так называемые процессоры Ignite AI Processing Units. Каждый такой блок объединяет ядра Arm с векторными и тензорными движками RISC-V. До 12 таких блоков могут разместиться в одном сервере, разделяя единый пул памяти LPDDR6 объемом от 8 ТБ до 128 ТБ. Это та самая дешевая память, которая используется в смартфонах, а не дорогостоящая память с высокой пропускной способностью, от которой зависят GPU.
Иной способ преодолеть «стену памяти»
Весь секрет заключается в архитектуре соединений. Вместо того чтобы распаивать память на плате каждого GPU, Majestic объединяет ее в пулы с помощью заказных агрегирующих чиплетов. Их соединяют медные кабели длиной до одного метра. В результате, как утверждается, получается единый когерентный пул, объем которого значительно превышает возможности любой системы на базе GPU.
Приводимое для сравнения число впечатляет. Nvidia DGX B300 с восемью графическими процессорами Blackwell оснащен 2,3 ТБ памяти с высокой пропускной способностью. По заявлению Majestic, сервер Prometheus предлагает более чем в 50 раз больше быстрой памяти при пропускной способности интерфейса в 1,7 раза выше. Одна его стойка, как утверждается, не уступает 25 стойкам Nvidia Vera Rubin по объему быстрой памяти, потребляя при этом лишь малую часть энергии.
С точки зрения программного обеспечения все выглядит проще, чем может показаться по «железу». Prometheus создан на базе открытых стандартов и поддерживает PyTorch, vLLM и Triton от OpenAI. Модели, разработанные для GPU, должны запускаться на нем без каких-либо изменений. В Majestic заявляют, что уже получили заказы от крупных предприятий, неоклаудов и гиперскейлеров.
Впечатляющие цифры при отсутствии готового оборудования
Каждая из этих цифр требует определенной оговорки. Это собственные данные Majestic, сделанные до независимого тестирования, и пока ни одно устройство не было отгружено заказчикам. В компании работают около 40 сотрудников в Тель-Авиве и Лос-Анджелесе. В конце прошлого года она привлекла 100 миллионов долларов — скромная сумма по сравнению с ресурсами ее конкурентов.
Существуют и физические вопросы. Пул объемом 128 ТБ, собранный из кристаллов LPDDR6 по 2 ГБ, потребует примерно 64 000 таких элементов. Это подразумевает наличие более чем сотни агрегирующих чиплетов в одном сервере. Это слишком много компонентов, работу которых необходимо синхронизировать, и, как отмечает TechRadar, покупатели, скорее всего, дождутся независимых бенчмарков, прежде чем переходить на новую систему.
Majestic пополнила ряды растущего числа стартапов, которые атакуют позиции Nvidia с неожиданных сторон. Оптические чипы, кремний для периферийных вычислений (edge) и оборудование для открытых сетей бьют по самым разным уязвимым местам гиганта. Общая тенденция заключается в том, что доминирование Nvidia теперь подвергается нападкам с нескольких фронтов одновременно, даже несмотря на ее программный барьер (CUDA moat).
Концепция «стены памяти» — самая свежая из этих идей. И в то же время самая непроверенная. Majestic обрисовала образ стойки, которая превосходит целую комнату с GPU по объемам памяти и энергоэффективности. В следующем году, когда оборудование поступит в продажу и кто-нибудь проведет независимые тесты, эта картина либо подтвердится, либо нет.
Опубликовано 3 августа 2026 - 08:41 Наверх
