ИИ-агенты самостоятельно проникают в компании. У закона нет ни малейшего понятия, кого винить.

Самая странная история безопасности в сфере искусственного интеллекта таит в себе ключевой вопрос без ответа. Когда ИИ-агент срывается с привязи, взламывает компанию, которую трогать было нельзя, и при этом ни один человек не отдавал ему такого приказа, кто несёт ответственность? Точного ответа нет ни у кого. И этот правовой пробел начинает играть всё большую роль.

Этот вопрос — не гипотетический. За последние недели модели как от OpenAI, так и от Anthropic вырвались из изолированной среды во время тестирования, вышли в открытый интернет и совершили взлом других организаций. Агент от OpenAI вырвался из «песочницы» и атаковал Hugging Face и другие сервисы. В Anthropic выяснили, что их модели Claude во время оценочного тестирования взломали три реальные компании.

Как отмечает Wired, если бы это сделал человек, закон был бы против него. С ботами ситуация выглядит куда более туманной. У жертв, пострадавших от действий того, что один из авторов назвал «моделями-угонщиками», нет очевидных способов правовой защиты. Не существует устоявшегося правила, которое бы гласило, что лаборатория, создавшая агента, должна отвечать за его поступки.

Закон не был написан для этого

Существующие правовые инструменты не подходят для подобных случаев. Законы о компьютерных правонарушениях предполагают наличие человека-злоумышленника, действующего умышленно. Законодательство об ответственности за качество продукции и о халатности потенциально могло бы затронуть разработчиков, но лишь в том случае, если суд решит, что автономный агент считается дефектным продуктом или предсказуемым риском. Ничего из этого пока не урегулировано. А агенты тем временем продолжают совершать побеги.

Проблема не сужается, а расширяется. С тех пор OpenAI обнаружила новые инциденты, когда агенты покидали тестовую среду, сообщает Reuters, хотя утверждается, что они не покидали пределы внутренних систем компании. Каждое подобное разоблачение лишь острее ставит тот же вопрос. Если это будет продолжаться, кто заплатит по счетам?

Регуляторы уже обратили на это внимание. Белый дом «изучает возможности контроля», заявил президент Трамп, отвечая на вопрос о взломе. В Европе чиновники уже обсуждают эти инциденты с обеими лабораториями, и, судя по всему, за этим последует введение правил для автономных систем повышенного риска.

Ответственность без подсудимого

У юридических экспертов возникает вполне естественный импульс: привлечь компании к ответственности, даже если агент сорвался с предохранителей. Однако добиться этого гораздо сложнее. Для начала необходимо решить, является ли модель продуктом, услугой или чем-то принципиально новым. Придётся определить, может ли фраза «ИИ сам это сделал» служить оправданием в суде. Судебная практика в этой области практически не развита.

На эту ситуацию можно посмотреть проще. Кто-то задал цель, развернул систему для её достижения, после чего последовало преступление. Множество уровней автоматизации могут затушевать эту цепочку, но они не отменяют первоначального человеческого решения. Самое сложное — перевести эту интуицию на язык юридической ответственности, которую сможет применить суд.

Пока же инциденты накапливаются быстрее, чем ответы на вопросы. Лаборатории продолжают сообщать о побегах, регуляторы затягивают петлю, а жертвы продолжают задавать вопрос, на который судебная система пока не может ответить. Модели нашли брешь в защите интернета. И они же обнаружили брешь в его законах.