Кембридж создал планетарную ИИ-модель — и обошелся без чипов Nvidia

Индустрия искусственного интеллекта держится на Nvidia. Команда исследователей из Кембриджского университета только что доказала, что это необязательно. Они создали базовую модель планетарного масштаба для Земли, причем все чипы, задействованные в ее обучении и работе, были произведены AMD.

Модель называется TESSERA, и ее концепция заимствована у больших языковых моделей (LLM). Если языковая модель учится на текстах, то TESSERA учится на космосе. Она обрабатывает многолетние снимки со спутников Sentinel Европейского космического агентства — как радарные, так и оптические, объявила команда. Затем она сжимает каждый участок суши планеты размером 10 на 10 метров в компактный «отпечаток» (эмбеддинг) из 128 чисел.

Звучит абстрактно, но практическая польза вполне осязаема.

Обычно картирование посевов, лесов или зон затопления по спутниковым данным требует создания специализированной модели и ручной разметки тысяч примеров для каждой отдельной задачи.

Поскольку «отпечатки» TESSERA уже вычислены, исследователи могут создавать такие инструменты с гораздо меньшим объемом данных, часто используя обычный процессор (CPU). По словам команды, им требуется примерно в 30 раз меньше размеченных данных по сравнению с работой с «сырыми» изображениями.

В результате получается некий фундамент для всей планеты, который публикуется в открытом доступе для всех желающих. И самое необычное здесь — на чем именно все это работало.

Планетарный ИИ без Nvidia

Кембриджская группа по изучению энергетики и окружающей среды обучила TESSERA на 16 графических процессорах AMD Instinct MI300X, затратив около 6200 GPU-часов и используя открытое ПО AMD ROCm. Обучение модели — это относительно легкая часть. Запустить ее для обработки каждого 10-метрового пикселя на Земле (а это около 1,5 триллиона пикселей в год) — задача куда более сложная.

Для этого команда обратилась к Vultr — независимой облачной компании, которая спонсировала вычислительные мощности, предоставив шесть своих выделенных серверов (bare-metal). Каждый из них оснащен восемью GPU AMD Instinct MI325X. Вместе они выдают около трех терабайт сжатых данных в день. Исследователи сравнивают это с ежедневным сканированием всей территории Италии.

На непрерывную обработку глобального покрытия всего за один год уходят месяцы.

Базовый слой для Земли

Главная идея — открытость. Кембридж публикует эмбеддинги бесплатно под лицензией Creative Commons вместе с полным рецептом обучения. Любое правительство, исследователь или стартап может использовать их в качестве основы для своих разработок.

Профессор Анил Махавапедди (Anil Madhavapeddy), возглавляющий проект, говорит, что главная цель — «демократизировать доступ к мониторингу окружающей среды планетарного масштаба».

Сферы применения вполне конкретны. Фермеры могут отслеживать состояние посевов и прогнозировать урожайность с разрешением до 10 метров — это настоящая находка для мелких хозяйств в развивающихся регионах.

Экологи могут наблюдать за изменениями среды обитания: от тропических лесов до живых изгородей в Великобритании, где прячутся ежи. Специалисты по энергетике могут составлять карты солнечных и ветряных электростанций для содействия экологическому переходу. И все это работает на одних и тех же общих «отпечатках».

История с TESSERA кажется небольшой, но за ней стоит масштабный подтекст. Государственный университет создал ИИ-модель передового уровня, сделал ее бесплатной и выполнил эту работу на «неправильном» железе, от которого все отговаривают. Индустрия живет в уверенности, что серьезный искусственный интеллект возможен только на графических процессорах Nvidia и в закрытых лабораториях.

Планета эмбеддингов, обученная на чипах AMD и отданная людям даром — это тихое, но веское опровержение.