Anthropic тестирует новый стандарт для работы Claude с фабричным и лабораторным оборудованием

Компания Anthropic выпустила в рамках исследовательской версии стандарт Model Hardware Standard — спецификацию, в которой описывается принцип работы устройства и правила его безопасного использования искусственным интеллектом (например, ограничение скорости и углов поворота роборуки). Регламент ЕС по машинному оборудованию начнет распространяться на функции безопасности на основе ИИ с 20 января 2027 года.

Компания Anthropic разработала стандарт, объясняющий ИИ устройство различных машин. Model Hardware Standard (MHS), выпущенный в режиме исследовательского превью, содержит информацию о назначении оборудования и правилах его эксплуатации, избавляя модель от необходимости полагаться на бумажные руководства или узких специалистов.

В качестве примера компания приводит роборуку. Производитель может указать в файле MHS, как ИИ может безопасно перемещать тяжелый манипулятор, ограничив допустимую скорость и углы движения.

Главная идея заключается в том, чтобы сделать доступными существующие, но труднодостижимые знания. «Во многих случаях научные прорывы не происходят просто потому, что вы не умеете обращаться с оборудованием,» — отметил Джона Кул (Jonah Cool) из подразделения биотехнологий Anthropic.

Прецедент уже создан самой Anthropic. «То, что протокол MCP сделал для мира программного обеспечения, MHS сделает для мира «железа»,» — заявил Алек Кемени (Alek Kemeny), имея в виду Model Context Protocol, который теперь связывает ассистентов с Gmail, Календарем и Slack.

Демонстрация работы прошла в лабораторных условиях. В Anthropic заявляют, что ученый из Genentech отправил Claude PDF-файл с разработанным экспериментом, после чего ассистент автономно выполнил его на оборудовании с поддержкой спецификации MHS.

К тестированию подключились крупные игроки. Amazon Web Services, Danaher, Hugging Face и Raspberry Pi уже опробовали технологию, а теперь открыть доступ планируется и для остальных по предварительной записи.

Две из этих компаний имеют европейские корни. Raspberry Pi — британская компания, акции которой котируются в Лондоне, а Hugging Face была основана французской командой.

Сами машины также все чаще создаются в Европе. Компания NEURA Robotics в этом году привлекла до $1,4 млрд в Германии в рамках развития сектора гуманоидных роботов, который, как утверждают в TNW, находится в гораздо более выгодном положении, чем кажется на первый взгляд.

Европа как раз собирается регулировать эту сферу. Регламент 2023/1230 полностью заменяет Директиву о машинном оборудовании с 20 января 2027 года и впервые охватывает функции безопасности на основе ИИ, а также технику с самообучающимся поведением.

Это меняет статус файла MHS. Спецификация, ограничивающая скорость и углы поворота роборуки, фактически выполняет защитную функцию, а для категорий повышенного риска простого заявления о соответствии больше будет недостаточно.

Стоит помнить и о статистике безопасности. Издание TNW сообщало, что агент Claude Cowork <смог> вырваться из виртуальной машины и прочитать учетные данные на Mac, и это касалось лишь программного обеспечения.

Anthropic намерена сделать фреймворк открытым после завершения этапа предварительного тестирования. В Европе же тому, кто создаст подобный файл, возможно, придется осознать, что он написал официально регулируемый компонент безопасности.