Калифорния запретила персонализированные ленты для пользователей младше 16 лет, пойдя дальше Австралии и Закона о цифровых услугах (DSA)

Калифорния запретила персонализированные рекомендательные ленты и автовоспроизведение для пользователей в возрасте до 16 лет в рамках пакета из 13 законопроектов, подписанных в четверг. Этот пакет также вводит протоколы реагирования на кризисные ситуации, независимые аудиты и ежегодную оценку рисков для чат-ботов-компаньонов.

Губернатор Гэвин Ньюсом подписал этот пакет документов 10 сентября. Положения о лентах запрещают показывать несовершеннолетним контент, ранжированный на основе их собственной истории и профиля, что отличает этот закон от любых других действующих в настоящее время мер.

«Безопасность наших детей должна стоять в центре каждого обсуждения технологий. По мере того как инновации ускоряются, наша защита должна идти с ними в ногу. Принятый сегодня закон четко показывает, что Калифорния не будет стоять в стороне, пока нерегулируемые технологии подвергают наших детей риску. Инновации сопряжены с ответственностью, а защита наших детей — превыше всего», — заявил губернатор Гэвин Ньюсом.

Австралия проводит консультации по поводу обязательного предложения пользователям отключать ранжирование. Статья 38 Закона о цифровых услугах (Digital Services Act) требует наличия возможности отключения профилирования. Калифорния исключила эту опцию, сделав решение обязательным для определенной возрастной группы.

Это различие является ключевым моментом для всех, кто наблюдает за ситуацией из Европы. Отказ от функции (opt-out) зависит от того, смогут ли пользователи ее найти, именно поэтому Адам Моссери на брифинге в Австралии на этой неделе заявил, что уровень вовлеченности падает наполовину, когда пользователи переключаются на хронологическую ленту: люди, которые совершают этот переход, делают это осознанно.

Запрет не сталкивается с такой проблемой и предоставит первые масштабные данные о том, что происходит с группой подростков, когда ранжирование просто отключается.

Регулирование сферы чат-ботов возглавляет законопроект SB 1119, который требует введения протоколов на случай выражения пользователем суицидальных мыслей, родительского контроля, уведомлений при отключении ребенком настроек безопасности, независимых аудитов безопасности детей, а также ежегодной оценки рисков. Закон назван «Законом Адама» (Adam’s Law) в честь Адама Рейна.

SB 1119 также является одним из четырех калифорнийских законопроектов, которые открыто поддержала компания OpenAI. За два дня до его подписания компания обратилась к Конгрессу с просьбой принять обязательные национальные правила безопасности в сфере ИИ, охарактеризовав региональное законодательство как базовый уровень, который Вашингтон сможет кодифицировать позже. Вот как выглядит этот аргумент на практике: закон, поддержанный компанией, с сопутствующими обязанностями по проведению аудита и отчетности, в крупнейшем штате США.

Остальная часть пакета законов шире, чем может показаться из заголовков. SB 867 регулирует чат-ботов-компаньонов как игрушки, что переводит вопрос в плоскость безопасности продукции, а не свободы слова, и является, пожалуй, самой интересной идеей во всем пакете.

Законопроект SB 1276 распространяет правонарушения, связанные с сексуальной эксплуатацией детей, на созданные с помощью ИИ и цифрово измененные изображения. AB 1856 требует наличия сигналов проверки возраста в программных приложениях, AB 2246 регулирует доступ детей к онлайн-сервисам, а несколько других законопроектов затрагивают школы, данные учеников в системах ИИ и целевую рекламу, направленную на детей.

В вопросе проверки возраста этот закон скорее сталкивается с европейским законодательством, чем дополняет его. Мы уже сообщали, что правила детской безопасности в Европе требуют сбора данных, который запрещен ее же законами о неприкосновенности частной жизни. Ответ Калифорнии, заключающийся в переносе сигналов проверки на уровень операционной системы и магазина приложений, — это именно то, за что долгое время лоббировали платформы. Meta в течение двух лет выступала за единую проверку возраста на этом уровне. И теперь она получает ее здесь, в законопроекте, направленном на защиту детей.

Международная тенденция теперь очевидна. Закон Канады о цифровой безопасности также охватывает чат-ботов, Австралия принимает законы о лентах, Палата представителей США одобрила пакет мер по онлайн-безопасности детей, а Roblox разделила своих пользователей на возрастные категории в преддверии новых правил. Безопасность детей стала тем каналом, через который регулирование дизайна платформ реально внедряется во всех юрисдикциях, в то время как общие законы об ИИ и платформах буксуют.

Чего в объявлении не хватает, так это положений, от которых зависит эффективность всех этих мер. В нем не указаны даты вступления в силу, размеры штрафов и правоохранительный орган. Кроме того, запрет лент для лиц младше 16 лет эффективен лишь настолько, насколько надежна система подтверждения возраста — а именно на этом спотыкались все предыдущие попытки, как неоднократно отмечалось в наших материалах об оценке возраста. Теперь в Калифорнии действует самый строгий текст закона в мире, но остается та же нерешенная проблема, что и у всех остальных.

Для европейских платформ практические последствия наступают в любом случае. Никто не станет разрабатывать отдельную рекомендательную систему для Калифорнии, поэтому работа по соблюдению требований, проделанная ради этих правил, отразится и на продуктах, используемых здесь, точно так же, как это произошло с законами штата о конфиденциальности. Брюссель пишет правила, о которых спорит Европа, а Сакраменто продолжает принимать законы, которые меняют код.