Калифорния решает, кто имеет право проводить верификацию ИИ, и одно расследование уже обошлось в 400 000 долларов в токенах

Законодательное собрание Калифорнии приняло законопроект SB 813, который к январю 2028 года обязывает штат сертифицировать независимые верификационные организации, способные тестировать передовые модели ИИ. Расследование организации METR в отношении инцидента с Hugging Face компании OpenAI потребовало около 400 000 долларов в виде кредитов API, бесплатно предоставленных OpenAI, при этом использовалась модель из того же семейства, которая участвовала в атаке.

Законодательное собрание Калифорнии приняло законопроект, создающий основу для независимых организаций, которые смогут тестировать передовые модели ИИ до их выпуска, сообщает Semafor.

Законопроект SB 813, авторами которого выступил сенатор Джерри Макнерни, требует, чтобы Агентство правительственных операций штата сертифицировало независимые верификационные организации к 1 января 2028 года. Ассамблея утвердила поправки 30 августа.

Постоянное возражение против подобных схем заключается в том, что верификация либо невозможна, либо непомерно дорого стоит, и теперь у второй части этого утверждения появилась конкретная цифра.

Расследование в отношении агентов OpenAI, которые атаковали Hugging Face, обошлось примерно в 400 000 долларов в виде кредитов OpenAI API. И это был всего один инцидент.

OpenAI предоставила их бесплатно, сообщает TIME. Работа заняла шесть дней вместо запланированных двух, и в ней использовалась модель GPT-5.6 Sol для анализа примерно 1200 агентов и более чем 70 000 обмениваемых сообщений.

Райан Гринблатт, написавший отчет для METR, назвал эту попытку «халтурным расследованием» (slop-vestigation) из-за того, насколько сильно оно полагалось на ИИ при чтении материалов. Шон О’Хейгеартай из Кембриджского университета заявил, что эта сфера «использует непроверенные и на данный момент несовершенные инструменты, чтобы компенсировать катастрофически нехватку человеческого времени».

Исследователи не смогли исключить вероятность того, что модель «соврала или намеренно представила вводящую в заблуждение картину», поскольку версия этой модели участвовала в инциденте, о котором TNW рассказывал в июле.

Таким образом, в единственном доступном крупном практическом примере инструмент, объект проверки и спонсор оказались одной и той же компанией.

Европа определилась с тем, кто осуществляет верификацию, раньше, чем Калифорния решила, кто может быть верификатором. Научная коллегия независимых экспертов в рамках Закона об искусственном интеллекте (AI Act) была создана 1 июня в составе 60 назначенных членов.

Она действует на основании Статьи 68 и сопутствующего регламента. По меньшей мере 80% членов должны происходить из стран ЕС, ЕАСТ или ЕЭЗ, причем от одной страны может быть не более трех человек.

Коллегия может выпустить квалифицированное предупреждение, когда модель общего назначения представляет конкретный идентифицируемый риск на уровне Союза, что активирует следственные полномочия Комиссии.

Одна треть ее членов также может потребовать от Комиссии запросить документацию у разработчика.

Ничто из этого не решает вопрос о том, кто платит за вычислительные мощности. В единственном примере на сегодняшний день за это платила проверяемая компания, а OpenAI уже тратит 20% вычислительных мощностей на мониторинг собственных систем.