Бразилия определяет, что такое дипфейк, за пять недель до выборов

В Бразилии выборы назначены на 4 октября, и ее избирательный суд во вторник работал над решением вопроса, с которым до сих пор пытаются справиться многие регуляторы: что именно считается дипфейком?

Ожидалось, что Высший избирательный суд (Tribunal Superior Eleitoral) примет решение о более широких ограничениях на материалы предвыборной кампании, созданные с помощью искусственного интеллекта, сообщает Reuters.

Предложенные правила выходят за рамки простого запрета вводящих в заблуждение дипфейков. Они требуют маркировать материалы предвыборной кампании, созданные ИИ, запрещают системы, рекомендующие кандидатов, а также вводят период «черной тишины», в течение которого новый синтетический политический контент не может публиковаться или продвигаться непосредственно перед голосованием и сразу после него.

Это определение имеет критическое значение, поскольку Бразилия уже столкнулась с прецедентом, который находится в неудобном положении между раскрытием информации и введением в заблуждение.

В июле Жаир Болсонару, находящийся под домашним арестом и лишенный права на публичные выступления, появился на презентации предвыборной кампании своего сына в виде ИИ-аватара, который прямо заявлял, что является симуляцией.

Это раскрытие информации является центральным элементом юридического спора. Существующие в Бразилии правила выборов нацелены на сфабрикованный контент, способный ввести избирателей в заблуждение, однако ИИ-аватар, который открыто сообщает зрителям о своей цифровой природе, не укладывается в это определение напрямую.

Коалиция Лулы подала петицию в TSE, утверждая, что видео все равно нарушает правила, регулирующие использование синтетического контента для влияния на избирателей.

Штаб Флавиу Болсонару возразил, что четко промаркированную симуляцию нельзя расценивать как дипфейк — аргумент, который трудно отбросить, если определение основывается в первую очередь на том, обманываются ли зрители.

Сам суд продемонстрировал некоторые разногласия по поводу того, где должна проходить эта граница. Глава TSE Кассиу Нунес Маркес предположил, что материалы кампании, созданные ИИ, могут быть допустимы, если они не наносят вреда, в то время как судья Верховного суда Александре де Мораес предупредил, что эта же технология может нарушить условия домашнего ареста Болсонару и способствовать распространению дезинформации на выборах.

В Бразилии уже существовали правила в отношении ИИ еще до этих выборов. TSE ввел требования в преддверии муниципальных выборов 2024 года, включая обязательное раскрытие информации о синтетическом контенте, что отчасти объясняет, почему аватар Болсонару был представлен как симуляция, а не как попытка выдать себя за него без предупреждения.

Ожидается, что решение суда во вторник даст более четкое определение того, что разрешено, а что нет, хотя момент выбран крайне неудачно.

До общенациональных выборов осталось пять недель, и у кандидатов, платформ и регуляторов будет совсем мало времени на адаптацию к любой схеме, которую установит суд.

Проблема, которую пытается решить Бразилия, существует далеко за пределами ее границ. Правила, основанные на раскрытии информации (включая те, что разрабатываются в рамках Закона ЕС об искусственном интеллекте), исходят из предположения, что информирование людей о создании или изменении контента с помощью ИИ способно снизить его способность вводить их в заблуждение.

Кейс Болсонару ставит это предположение под удар, поскольку контент может быть абсолютно прозрачен в отношении своей синтетической природы и при этом оставаться политически убедительным.

Существует также вопрос, на который действующие правила изначально не были рассчитаны. Политик, которому по закону запрещено выступать публично, но который появляется через созданное ИИ изображение, физически не обращался к толпе, однако его политическое послание может дойти до избирателей почти так же эффективно, как если бы политик стоял там лично.

Предложенные ограничения в отношении систем рекомендаций порождают отдельную проблему, поскольку они затрагивают не сам контент, а способы распространения политических материалов платформами.

Запрет алгоритмам рекомендовать конкретных кандидатов потребует от регуляторов анализа стандартных механизмов работы платформ, что значительно сложнее отслеживать, чем то, содержит ли конкретное видео пометку об использовании ИИ.

У Бразилии больше опыта подобного вмешательства, чем у многих других стран. Ее суды продемонстрировали готовность занять более активную позицию в регулировании онлайн-платформ и политических высказываний, а TSE еще до начала текущей кампании установил специальные правила выборов, касающиеся ИИ.

Правоприменение, вероятно, окажется сложнее, чем формулирование правил. Запрет на синтетический политический контент в день выборов эффективен лишь в том случае, если кто-то сможет распознать синтетический материал достаточно быстро, чтобы остановить его распространение, что становится особенно трудно, когда контент циркулирует в закрытых группах мессенджеров, а не в публичных социальных сетях.

Положение о запрете также является наименее проверенной частью законопроекта. Рассмотрение созданного ИИ политического контента в качестве отдельной категории, требующей режима тишины в преддверии выборов, — это серьезный шаг вперед по сравнению с существующими европейскими правилами, которые обычно сосредоточены на прозрачности и обстоятельствах, при которых синтетический контент может вводить в заблуждение.

Именно поэтому у европейских регуляторов есть практический интерес внимательно следить за событиями в Бразилии.

Собственные требования ЕС к прозрачности опираются на те же предположения относительно раскрытия информации, в то время как в ходе европейских выборов пока не возникало сопоставимых прецедентов с участием политика, которому запрещено общаться с публикой, но который все же может добраться до избирателей через созданную ИИ копию.

Масштабы бразильского электората еще больше усложняют контроль. Правом голоса обладают более 150 миллионов человек, а мессенджеры глубоко укоренились в политической коммуникации, причем значительная ее часть происходит в личных чатах и группах, которые регуляторы не могут реально мониторить так же, как публичные посты.

Таким образом, Бразилия пытается установить границы прямо во время развернувшейся кампании, и политические акторы, которых затрагивают эти правила, напрямую заинтересованы в том, как именно они будут прописаны.

Отсутствие четких правил создало бы собственные проблемы, однако их установление всего за несколько недель до того, как избиратели отправятся на участки, оставляет регуляторам, штабам и платформам минимум пространства для понимания принципов их работы.

Выборы состоятся 4 октября, оставляя TSE примерно пять недель на то, чтобы утвержденные во вторник правила прошли проверку на практике.