Наблюдательный совет обязал Meta удалить дипфейк британского депутата

Правила Meta в отношении созданных с помощью ИИ дипфейков «последовательно и фундаментально неадекватны для противодействия стремительному росту контента, генерируемого искусственным интеллектом», заявил Наблюдательный совет 17 сентября.

Совет обязал Meta удалить из Facebook два видеоролика, созданных ИИ. Первое решение касается местного британского политика, и совет опубликовал его полный текст. Второе решение затрагивает молодую мусульманку.

Совет отменил первоначальные решения Meta по обоим делам, как сообщила газета Guardian. Его решения являются обязательными для Meta.

«Дипфейки на основе ИИ, от политиков до частных лиц, всё чаще используются для травли и замалчивания женщин, участвующих в общественном дискурсе», — заявила Памела Сан Мартин, сопредседатель совета.

Видео с шотландским депутатом

Согласно сводке совета, пользователь Facebook опубликовал этот видеоролик в ноябре 2025 года. На нём было запечатлено лицо депутата от Лейбористской партии в Шотландии, произносящего подстрекательские комментарии о беженцах, которых она никогда не делала.

Аудиодорожка была не полностью синхронизирована с движениями её лица, что указывало на подделку, отметил совет. Видео находилось в альбоме вместе с фотографией нескольких женщин, включая этого депутата, на акции протеста против ультраправых. В совокупности альбом и видео набрали более 5 000 просмотров.

Два человека пожаловались на видео, в том числе сама депутат. Системы Meta не передали его на рассмотрение модераторам-людям, и обе апелляции были отклонены. Затем другой пользователь обратился в совет.

Депутат сообщила совету, что эти слова «противоречат всему, за что [она] выступает». Она заявила, что безрезультатно сообщала о видео в Meta и в полицию.

Что обнаружили Meta и совет

Компания Meta пришла к выводу, что видео не нарушает ни одно из её правил и не нуждается в пометке об ИИ, даже после того, как совет поднял этот вопрос. Там заявили, что ни одна организация из числа доверенных партнёров не отметила видео и что оно не содержит запрещенных заявлений о выборах или переписи населения.

В Meta также заявили, что видео носило сатирический характер и привлекло мало внимания, при этом выборы или кризис не приближались. Компания сообщила совету, что не стала наказывать пользователя за то, что он не указал на использование ИИ.

Большинство членов совета постановило, что видео нарушает правила Meta в отношении языка вражды. Большинство пришло к выводу, что в нём содержались обвинения в «тяжелой преступности и хищническом сексуальном поведении» в адрес беженцев как социальной группы. Меньшинство заявило, что видео было направлено против предполагаемых взглядов самого политика, а не всех или большинства беженцев.

Большинство также сочло, что видео следовало снабдить пометкой «Высокий риск ИИ» (High Risk AI). Совет не нашёл нарушений правил буллинга и преследования, поскольку выборное должностное лицо считается публичной фигурой.

Шесть рекомендаций

«Большинство считает, что Meta нуждается в более надежной политике в отношении дипфейков», — заявили в совете. По итогам этого дела было сформулировано шесть рекомендаций.

Совет попросил Meta снизить порог для применения пометок о «высоком риске», распространив их не только на периоды кризисов и выборов. Он также предложил использовать промежуточный экран (click-through screen) вместо простой пометки для контента, обозначенного как созданный ИИ или несущий «высокий риск ИИ».

Другие рекомендации предполагают понижение в выдаче или лишение монетизации контента с «высоким риском», а также введение санкций против аккаунтов, которые неоднократно им делятся. Кроме того, по мнению совета, Meta должна публиковать ежегодные данные о том, как часто она применяет эти пометки.

У Meta есть 60 дней на ответ, сообщает Engadget. В июле совет опубликовал исследование, в котором говорилось, что ведущие модели ИИ подавляют политические высказывания.

Видео с активисткой

Второе решение касается молодой мусульманки из Европы. Она участвовала в кампании по просвещению в области менструального здоровья для женщин и девочек из этнических меньшинств.

Измененные с помощью ИИ видео и изображения, высмеивающие её, набрали десятки миллионов просмотров в сети, в том числе на платформах Meta, сообщает Guardian. Совет установил, что один из роликов нарушает политику Meta в отношении буллинга и травли. На нём было показано, как она абсурдным образом тренируется и ест нездоровую пищу.

Meta автоматически закрыла первую жалобу на это видео и поданную апелляцию. Ролик удалили только после того, как к делу подключился совет, сообщает Engadget. В июле TNW писал, что ИИ-модерация Meta удаляет аккаунты пользователей.

По делу этой кампании совет выдвинул три рекомендации, сообщает Guardian. Одна из них предполагает расширение определения «нежелательных измененных изображений» у Meta, чтобы оно охватывало и дипфейки с участием частных лиц — те, на которых человек говорит или делает то, чего он на самом деле не говорил и не делал. Избирательный суд Бразилии также в настоящее время работает над определением понятия дипфейка.

Meta и дипфейки

«Эти случаи демонстрируют более широкую и тревожную тенденцию, при которой женщины, публично высказывающиеся по тем или иным вопросам, несоразмерно часто подвергаются преследованиям и дезинформации», — подчеркнула Сан Мартин.

Meta создала совет в 2020 году для вынесения решений по контенту на своих платформах. Представители Guardian отметили, что обращались в Meta за комментарием.

Также 17 сентября TNW сообщил, что немецкий суд признал Meta ответственной за мошеннические рекламы в Facebook и Instagram.

В июле TNW сообщал, что инструменты, лежащие в основе приложений для «раздевания» (nudify), размещены на Hugging Face.