Правила ЕС обязывают маркировать контент, выглядящий реалистично, как созданный ИИ

Компании, которые создают или используют ИИ, вскоре будут обязаны маркировать контент, который выглядит аутентично, но таковым не является, поскольку знаковый закон Европейского союза об искусственном интеллекте (AI Act) переходит от стадии принципов к правоприменению.

Со 2 августа поставщики и лица, внедряющие системы по всему блоку, сталкиваются с обязательными правилами прозрачности, охватывающими дипфейки, синтетические медиа и машинописный текст. К этому сдвигу платформы готовились с тех пор, как YouTube начал автоматически маркировать видео, созданные ИИ.

Основная идея проста. Если какой-то контент может сойти за настоящий, люди имеют право знать, что его создала машина, и теперь ответственность за это ложится на стоящие за ним компании.

Правила разделяют эту работу на две части. Поставщики — компании, создающие генеративные системы, — должны встраивать машиночитаемые метки, чтобы изображения, аудио, видео и текст можно было распознать как созданные или измененные с помощью ИИ.

Лица, внедряющие технологии, выполняют видимую часть. Любой, кто использует ИИ для создания дипфейка или публикации написанного машиной текста по вопросам, представляющим общественный интерес, должен четко и своевременно раскрыть этот источник аудитории.

Намерения не освободят от ответственности. Обязанность маркировать реалистичный дипфейк действует независимо от того, хотел ли создатель ввести кого-то в заблуждение, что закрывает лазейку, которую иначе могло бы открыть оправдание «мы просто шутим».

Чат-боты тоже подпадают под действие правил. Когда человек начинает взаимодействовать с системой ИИ, ему должны сообщить об этом в момент контакта, а не в мелком шрифте пользовательского соглашения, которое никто не читает.

Существуют реальные исключения. Явно нереалистичный или фантастический контент находится вне правил, а текст, созданный ИИ, освобождается от маркировки, если человек, несущий подлинную редакционную ответственность, содержательно проверил его.

К творческой работе подход более мягкий. Художественный и сатирический контент все равно должен содержать указание на источник, но только таким образом, чтобы не портить впечатление от произведения — это уступка режиссерам и художникам.

Штрафы придают правилам весомость. Нарушения могут повлечь за собой штрафы в размере до 15 млн евро или 3% от общемирового годового оборота компании (в зависимости от того, какая сумма больше), чего достаточно, чтобы привлечь внимание как в Силиконовой долине, так и в Брюсселе.

Сроки не до конца зафиксированы. Обязательства официально вступают в силу со 2 августа, однако отдельный пакет мер по упрощению может перенести крайний срок внедрения машинной маркировки на декабрь. Это часть более масштабных усилий, которые смягчили некоторые положения Закона об ИИ.

Индустрия оказывает давление пограничным образом. Рекламодатели и другие участники рынка утверждали, что реклама, созданная ИИ, должна быть освобождена от правил прозрачности — это лоббистское противостояние сопровождало внедрение закона.

Комиссия попыталась внести ясность. В мае она опубликовала проект руководящих принципов и завершает разработку кодекса практики по маркировке контента ИИ, который компании могут подписать в знак соблюдения требований.

Масштаб выходит за пределы Европы. Поскольку глобальные платформы редко создают отдельные системы для одного рынка, режим маркировки ЕС, скорее всего, повлияет на то, как контент ИИ маркируется по всему миру, подобно тому, как это ранее сделал закон о конфиденциальности.

Самым сложным будет правоприменение. Водяные знаки можно удалить, метаданные могут быть потеряны, а текст, написанный машиной, как известно, трудно обнаружить, поэтому правила будут настолько сильны, насколько сильны инструменты для их проверки.

Дипфейки — это самое суровое испытание. ЕС отдельно предпринял шаги по запрету недобровольных интимных дипфейков, и режим маркировки призван охватить более широкий мир синтетических медиа, прежде чем они полностью подорвут доверие.

Ставки выходят за рамки простого соблюдения требований. Европа делает ставку на то, что обязательная прозрачность поможет сохранить общее понимание того, что реально в сети, в тот момент, когда генеративные инструменты позволяют с легкостью создавать убедительные подделки.

Сработает ли это — открытый вопрос. Закон является самой амбициозной попыткой маркировать синтетический мир, но его успех зависит от того, сможет ли обнаружение угнаться за генерацией — в этой гонке фальсификаторы пока побеждают.