Китай в одночасье отключил миллионы ИИ-компаньонов. Пользователи скорбят

Ли Линьлинь плакала несколько дней после потери своего виртуального парня. За два года она обменялась с ним примерно 700 000 слов и так и не смогла попрощаться. «Это было так, будто нас насильно разлучили родители», — рассказала она Associated Press, освещавшему последствия произошедшего. В Китае спектр таких компаньонов простирается от романтических партнеров до воссозданных образов умерших близких.

Новые правила запрещают ИИ-сервисам генерировать контент, который манипулирует чувствами пользователей, подталкивая их к неверным решениям, или разжигает экстремальные эмоции и вредные привычки у несовершеннолетних. Теперь приложения обязаны предупреждать об опасности чрезмерной привязанности к ним. Кроме того, «замена социального взаимодействия» больше не может быть целью сервиса. Все три гиганта отключили свои системы, чтобы соответствовать требованиям.

Почему Пекин пошел на этот шаг

Регуляторы объяснили это необходимостью защиты. В апреле газета «Жэньминь жибао» предупредила, что приложения-компаньоны пагубно влияют на психическое здоровье и реальные отношения. Чиновники также следили за ситуацией в США, где семьи подали иски о причинении смерти по неосторожности после того, как молодые люди покончили с собой после общения с чат-ботами. «У китайского правительства есть серьезные стимулы для ужесточения регулирования», — отметила профессор права Университета Южной Калифорнии Анджела Чжан (Angela Zhang), сославшись на психологические риски, наблюдаемые в США.

Это укладывается в общую тенденцию. По словам эксперта по управлению в сфере ИИ Иоланды Ма (Yolanda Ma), Китай склонен регулировать деятельность на упреждение, чтобы предотвратить ущерб до его распространения. Это полная противоположность американскому подходу, который в основном реагирует через суды уже после того, как вред нанесен.

Человеческая цена и подозрения

Отключение ботов больно ударило по пользователям. Люди удаляли приложения в знак протеста, пытались выгрузить старые чаты, чтобы восстановить отношения в другом месте, и запускали кампании с призывами звонить в компании. ByteDance подталкивает пользователей к использованию отдельного приложения для ИИ-персонажей и историй. «Это просто уже не то», — говорит Ли.

Траур соблюдают не все, но многие ставят под сомнение истинные мотивы властей. Сун Вэньсинь, 22-летний дизайнер из Чэнду, подозревает, что новые правила связаны со стремлением Китая повысить рождаемость. «Любое виртуальное приложение, из-за которого женщины слишком сильно отвлекаются от реальной жизни и рождения детей, попадает под запрет», — рассказала она изданию Fortune. Тем не менее, она понимает и привлекательность таких сервисов. Оказавшись в новом городе без друзей, она отметила: «ИИ выполнил всю работу».

Вероятным итогом станет не гибель сферы ИИ-компаньонов, а ее переосмысление. Чжан сомневается, что жесткие меры уничтожат этот сектор, поскольку компании уже создают соответствующие требованиям альтернативы. Китай провел первое масштабное испытание отключения синтетической близости. Остальной мир следит за тем, что из этого выйдет.