ИИ-мусор добрался до политики. Фальшивые «новости» наводняют YouTube историями об упадке демократических штатов.

Какое-то время ИИ-мусор был преимущественно безобидным наполнителем: поддельные животные, вымышленные рецепты, видео ради кликбейта. Теперь он добрался до политики. Волна сгенерированных искусственным интеллектом «новостных» каналов на YouTube штампует истории об экономическом коллапсе в штатах, управляемых демократами. Некоторые из них набирают сотни тысяч просмотров.

Ролики создаются по единому шаблону. В них утверждается, что крупные компании бегут из Калифорнии. В магазинах заканчивается еда. Учителя массово увольняются. Один из каналов, @MeganWright62, опубликовал ложное заявление о том, что Walmart закрывает сотни магазинов в Калифорнии. CNN опроверг это. В январе президент Трамп всё равно поделился этой информацией.

Значительная часть этой волны направлена против Гэвина Ньюсома, вероятного кандидата в президенты на выборах 2028 года. Его команда сообщила Semafor, что с января совместно с YouTube добилась удаления более 700 аккаунтов. Была задействована система платформы «защиты изображений», которая помечает случаи несанкционированного использования лиц. Более 100 каналов распространяли ложные утверждения о Ньюсоме и Калифорнии.

Суть в масштабе. Канал New York Reports выпустил видео с заголовком «Wells Fargo УХОДИТ во Флориду». Слепленное из несвязанных между собой фрагментов, оно набрало около 300 000 просмотров. Другие ложно утверждали, что Target закрыла все свои магазины в Нью-Йорке, а JP Morgan покинул город. После того как Semafor обратил на них внимание, YouTube заблокировал несколько каналов за нарушение правил в отношении спама.

Проблема платформы

YouTube заявляет, что пытается бороться с этим. Его генеральный директор Нил Мохан назвал борьбу с ИИ-мусором «главным приоритетом». В прошлом году компания ударила по спаму, удалив 1,6 миллиона аккаунтов, и ужесточает правила монетизации повторяющихся видео, созданных по шаблонам. Однако поток продолжает нарастать. Одно исследование показало, что более 20% видеороликов, показываемых новым пользователям YouTube, представляют собой низкокачественный контент, созданный ИИ.

Вся сложность заключается в стимулах. Мусор существует ради сбора дешёвых просмотров и сопутствующих доходов от рекламы. Удаление одного канала мало на что влияет, если на следующий день появляется новый. Это та же динамика, что наблюдается и на других платформах. LinkedIn добавил кнопку «мусор». Snapchat прекратил рекомендовать ролики, сгенерированные ИИ. Всё это — часть более широкого отступления от функций, которые технологическая индустрия поспешила внедрить.

Эта конкретная волна бьет по демократам, но картина не является односторонней. В YouTube заявляют, что соблюдают правила вне зависимости от политики. Республиканцы быстрее начали использовать ИИ в предвыборной агитации. Демократы тоже сталкивались с критикой за это, как, например, Эндрю Куомо из-за рекламы, созданной с помощью ИИ. А консервативные СМИ годами создавали «человеческие» версии контента о «dystopia в синих штатах» (упадке демократических штатов).

Почему это важно

Перед прошлыми выборами в США опасались идеального дипфейка — поддельного видео, достаточно убедительного, чтобы повлиять на исход голосования. Эта угроза в значительной степени оказалась преувеличенной. Настоящей проблемой стал объём. Дело не в одном безупречном фейке, а в бесконечной волне дешёвых, достаточно правдоподобных роликов. Их трудно отследить, и в них легко поверить с первого взгляда.

Исследователи утверждают, что решением проблемы является не полный запрет контента с использованием ИИ. Небольшие изменения в алгоритмах ранжирования, монетизации и критериях допуска могут изменить то, что создают авторы. Новые правила в Европе теперь обязывают платформы маркировать синтетический контент. Однако пока что мусор приносит деньги. А те, против кого он направлен, как раз надеются баллотироваться в 2028 году.