Китай разрабатывает правила борьбы с кибербуллингом, охватывающие оскорбления с использованием ИИ

Интернет-регулятор Китая опубликовал проект правил по борьбе с кибербуллингом, и, по данным Reuters, эти меры разработаны с учетом оскорблений, генерируемых с помощью искусственного интеллекта.

Администрация киберпространства Китая представила проект для общественного обсуждения 29 июля в рамках расширяющихся усилий по контролю за тем, что происходит на платформах страны.

Проект нацелен на то, что китайские регуляторы называют «кибернасилием». Сюда относится онлайн-распространение оскорбительной, клеветнической или ложной информации, которая наносит вред человеку — категорию, которую регулятор определяет достаточно широко, чтобы включить в нее злоупотребления ИИ наряду с обычным троллингом и травлей.

Основная тяжесть ложится на платформы. Согласно проекту, сервисы должны будут создать классификаторы для обнаружения кибернасилия, предложить пользователям функцию «защиты в один клик», блокирующую входящие сообщения и комментарии, а также реагировать на эти сигналы путем ограничения оскорбительного контента и расследования деятельности стоящих за ним аккаунтов.

Механизм правоприменения детализирован. Платформы будут вести черные списки рецидивистов, подавать регулярные отчеты о своих мерах вмешательства и запускать системы раннего предупреждения для пресечения травли до ее эскалации, причем наказания могут доходить до блокировки аккаунта нарушителя.

Некоторые платформы уже начинают действовать на опережение. Сайт вопросов и ответов Zhihu, предвосхищая правила, начал борьбу с анонимными аккаунтами, что демонстрирует, как быстро китайские компании адаптируются, как только вектор регулирования становится ясным.

Именно «искусственно-интеллектуальное» измерение делает этот шаг своевременным. Reuters сообщает, что правила призваны охватить злоупотребления с использованием ИИ: дипфейки и синтетический текст, которые могут производиться в больших объемах и быть направлены против одной цели — форма преследования, для выявления которой старые системы модерации никогда не предназначались.

Это укладывается в общую тенденцию нормотворчества в сфере ИИ в Китае. Пекин уже требует маркировать контент, созданный с помощью ИИ, и приступил к регулированию человекоподобных ИИ-сервисов и индустрии цифровых людей, в которой люди даже сдают в аренду свои лица для ИИ, создавая сеть правил, которая рассматривает синтетические медиа как нечто, требующее отслеживания, а не пущенное на самотек.

Интерес государства заключается не только в защите. Те же инструменты, которые выявляют злоупотребления, также идентифицируют авторов высказываний, и режим, требующий от платформ регистрировать, отслеживать и заносить пользователей в черные списки, предоставляет властям более полную карту того, кто и что говорит — на этот момент критике интернет-управления Китая указывают неоднократно.

Это напряжение пронизывает весь проект. Будучи представленным как щит для жертв преследований, он одновременно усиливает обязательства, которые делают китайские платформы подотчетными государству, а грань между защитой пользователей и слежкой за ними, как всегда, проведена правительством.

Называемые им жертвы вполне реальны. Кампании по кибербуллингу в Китае вынуждали людей уходить из интернета, а в некоторых случаях и к худшему, и общественный гнев после нескольких громких дел дал властям народный мандат на действия.

Анонимность находится в центре этой борьбы. Большая часть онлайн-оскорблений в Китае публикуется с анонимных или псевдонимных аккаунтов, и требования проекта по ведению журналов и черных списков подталкивают платформы к тому, чтобы знать, кто за ними стоит, что одновременно делает правила эффективными и вызывает тревогу.

Другие правительства сталкиваются с той же проблемой. От дипфейк-абьюза до синтетического харассмента, регуляторы от Европы до США пытаются написать правила для жестокости, порожденной ИИ, и китайский проект является одной из самых жестких и детальных попыток на сегодняшний день.

Дальнейшие события будут носить процедурный характер. Проект открыт для общественного обсуждения, прежде чем он будет окончательно утвержден, и важные детали — насколько агрессивно платформы должны проводить сканирование и насколько точно сформулированы положения об ИИ — могут измениться до того, как правила вступят в силу.

Однако направление задано. Китай создает инфраструктуру для обнаружения и пресечения злоупотреблений, созданных с помощью ИИ, в больших масштабах, и какими бы ни были окончательные формулировки текста, от платформ ожидают одного: они будут видеть все и отвечать за это.