Deep Tech

В Modal заявили, что процессор Nvidia Vera вдвое увеличивает пропускную способность их ИИ-песочниц

Modal планирует запустить свой продукт Sandboxes на базе процессора Nvidia Vera с архитектурой Arm — это станет для компании первым шагом в сторону от чипов x86. Согласно собственным тестам Modal, Vera справлялся с задачами до двух раз быстрее сервера Intel при большом количестве контейнеров. Результаты не проходили независимую проверку.

В Modal заявили, что процессор Nvidia Vera вдвое увеличивает пропускную способность их ИИ-песочниц

Modal планирует использовать новый процессор Nvidia Vera для песочниц с ИИ-агентами. В собственных тестах компании чип справлялся с задачами до двух раз быстрее сервера Intel. О планах компания Modal, работающая в сфере облачных ИИ-технологий, сообщила в блоге в понедельник.

Это станет первым шагом Modal в сторону от чипов x86, которые выпускают Intel и AMD. Vera, напротив, использует архитектуру Arm, поэтому Modal предстоит изменить инфраструктуру и систему, с помощью которой компания создает образы программного обеспечения. На прошлой неделе Nvidia лично доставила первый сервер Vera в офис Modal в Сан-Франциско, сообщила компания.

Песочницы — это изолированные компьютеры, на которых ИИ-агенты выполняют написанный ими код. По словам Modal, продукт приносит 300 млн долларов в год. Об этом компания сообщила на прошлой неделе, когда привлекла 750 млн долларов при оценке в 15,75 млрд долларов.

По словам Modal, нагрузку от песочниц сложно прогнозировать. Агент может простаивать в ожидании ответа ИИ-модели, а затем потребовать в десять раз больше вычислительных ресурсов во время установки ПО. На каждом сервере параллельно работают сотни таких агентов, поэтому резкий рост нагрузки у одного клиента может замедлить работу другого.

Для проверки чипа Modal создала тест из 50 задач по программированию, включая компиляцию ПО и поиск файлов. При запуске по одной задаче Vera часто работал быстрее чипов Intel, AMD и Amazon, но не всегда и ненамного.

Разрыв увеличивался, когда Modal запускала на сервере множество контейнеров. По словам компании, Vera продолжал выполнять задачи с прежней скоростью, тогда как конкурирующие чипы достигали предела производительности. Modal связывает это с высокой пропускной способностью памяти Vera.

По словам Modal, это важно для двух сценариев: фоновой работы агентов-программистов и обучения с подкреплением. При обучении с подкреплением дорогостоящие графические процессоры часто простаивают, пока не завершатся вычисления на центральном процессоре.

В марте Nvidia представила Vera — процессор для ИИ-агентов с 88 ядрами. Среди его первых пользователей компания назвала Anthropic и OpenAI. Perplexity заявила, что будет запускать на этом чипе задачи агентов, после того как сообщила о росте скорости задач по программированию в 1,5 раза. Конкуренты тоже развивают собственные решения для песочниц: в сентябре Baseten купила Blaxel.

Modal не сообщила, когда песочницы на базе Vera станут доступны клиентам.

Опубликовано 19 октября 2026 - 11:00 Наверх