Суть вкратце
YouTube заблокировал 20 каналов в сети, которая платила актерам-фрилансерам по 26 долларов за видео за чтение сгенерированных ИИ сценариев с нападками на политиков-демократов. Сеть набрала 45 миллионов просмотров, потому что появление настоящего лица перед камерой сводит на нет все созданные платформами детекторы синтетического медиаконтента. Блокировка последовала только после публикаций Semafor и Riddance AI, причем в качестве нарушения был указан спам, а не ложная информация.[/tldr
YouTube заблокировал сеть каналов, которая набрала 45 миллионов просмотров, платя актерам-фрилансерам за чтение сценариев, по всей видимости, созданных большими языковыми моделями. Меры были приняты после расследования, опубликованного в среду изданием Semafor, медиаредактор которого Макс Тани сообщил об этом в соавторстве с Графом Массарой.
В заявлении для Semafor компания сообщила, что у нее действуют «строгие правила в отношении спама и вводящей в заблуждение практики», и она заблокировала 20 каналов: 13 упомянутых в материале и семь связанных с ними. TNW не смогла независимым образом проверить это число, которое фигурирует только в заявлении YouTube и ни в каких официальных уведомлениях о блокировке не упоминалось.
Обходным путем оказалось человеческое лицо
В этой схеме автоматизированным выглядело абсолютно всё, за исключением того самого компонента, из-за которого ее могли раскрыть. Сценарии, миниатюры, фотографии и веб-сайты несли на себе обычные следы генеративного контента, но человек в кадре был настоящим.
В этом и заключался смысл, по данным компании по киберразведке в сфере медиа Riddance AI, которая параллельно с Semafor расследовала деятельность сети. Убедительная речь на камеру до сих пор дается видеомоделям с трудом, написали в своем отчете Мейсон Брокшем и Джереми Карраско, что создает рынок для найма кого-то более дешевого взамен.
Модерация на платформах настроена на обнаружение синтетического медиаконтента. YouTube автоматически маркирует видео, созданные с помощью ИИ, независимо от того, указали это авторы или нет, однако реальный человек, читающий сценарий от ИИ, не активирует ни один из этих фильтров.
Двадцать шесть долларов за видео
Расценки зафиксированы документально. В кастинге, опубликованном продюсерской компанией Virelox, требовался профессиональный официальный представитель для работы перед камерой на новостном YouTube-канале, а специалисты Riddance обнаружили сопутствующее объявление с предложением 26 долларов за сценарий при условии выполнения работы за 24 часа и использовании собственных камеры и освещения актера.
Актеров находили через Fiverr и Backstage — те же площадки, где бренды нанимают представителей для рекламы термометров для мяса и средств для чистки ушей. Один из них, Франк Джордж, рассказал Semafor через мессенджер Fiverr, что ему платили через посредника и он не знал, кто спонсирует эту работу.
Он охарактеризовал эти ролики для Semafor как платную рекламу, а себя — как представителя. На просьбу назвать посредника он ответил: «Casgains».
Кто за этим стоял
Semafor проследила связь сети с Калебом Чаном, выпускником Чикагского университета, который создал финансовый YouTube-канал под названием Casgains Academy, а затем превратил саму виральность в продукт. Он стал соучредителем компании Virelox, которая продает услугу быстрого создания аккаунтов авторов по заказу клиентов.
В апреле Чан написал в X, что у него работает 106 аккаунтов на YouTube, и к маю он планирует довести их число до 300, а в более поздней публикации заявил о сети из более чем 500 авторов-призраков, генерирующих миллиарды просмотров в месяц. Это его собственные рекламные заявления, которые не проходили независимый аудит.
Он также опубликовал то, что, по его мнению, он понял о системе ранжирования, написав, что когда множество аккаунтов публикуют один и тот же хэштег с разницей в несколько минут, алгоритм воспринимает это как срочные новости. Он сообщил, что проверил это девять лет [ошибка в оригинале: девять раз] и подписал пост словами: «производство новостей > освещение новостей».
Что публиковали каналы
Специалисты Riddance проанализировали 622 расшифровки видеороликов различных персонажей, подсчитав упоминания конкретных политиков и классифицируя обвинения, выдвинутые против каждого из них. Налоговое бремя, проблемы с бюджетом и бегство бизнеса из управляемых демократами штатов доминировали в повестке, а мэр Нью-Йорка Зохран Мамдани стал фигурой, против которой чаще всего направлялись нападки.
В заголовках упоминался политик-демократ, после чего к экономической истории или скандалу добавлялся глагол, набранный капслоком. Большинство лежащих в основе утверждений опирались на реальные репортажи, выяснили в Riddance, однако подача материала часто не выдерживала столкновения с содержимым самого видео.
Semafor изучила одно из видео Уильяма (William Reports News), озаглавленное новостью о том, что Мамдани паникует по поводу закрытия отелей Hilton, и обнаружила, что в нем нет таких утверждений, а аргументация носит практически противоположный характер. В другом ролике утверждалось, что губернатор Кэти Хокул отказалась утвердить налоговое предложение Мамдани, хотя на самом деле она его поддерживает.
Швы были видны, но ничего не происходило
Координация контента была грубой. У каждого персонажа звучала одна и та же зловещая фортепианная мелодия, а попарное сравнение корпусов расшифровок показало, что американские каналы Omar и Julian разделяют 304 одинаковых фрагмента сценария.
Персонажи появлялись на каналах друг друга без каких-либо объяснений, профили Linktree вели не к тем ведущим, а один из актеров в течение нескольких недель сменил антитрамповское амплуа на протрамповское. Компания Riddance зафиксировала одновременное отключение связанных с ними сайтов во второй половине дня 25 августа, после того как Semafor связалась с этой компанией.
Аудитория была настоящей
Это должно беспокоить платформы куда больше, чем метод производства контента. В Riddance выяснили, что более чем 90 000 комментаторов в значительной степени пересекались с аудиторией других правоориентированных каналов на YouTube, а это значит, что ролики смотрели реальные люди.
Внутренняя аналитика одного из персонажей, найденная Semafor на панели управления, доступной через простой поиск в Google, показала, что аудитория на 85% состоит из американцев, на 80% — из мужчин, и 80% зрителей старше 55 лет. Как сообщает Semafor, по уровню вовлеченности аудитории эта сеть опережала YouTube-каналы Washington Post, New Yorker и Boston Globe.
Заблокированы за спам, а не за ложь
Прочитайте заявление YouTube еще раз. В качестве нарушения указаны спам и вводящая в заблуждение практика, что относится к правилам об объемах и подлинности, а не к точности информации.
Такая формулировка имеет принципиальное значение, поскольку это тот самый рычаг принудительного воздействия, который реально есть у платформы. Под этот же рычаг попадают создатели контента без лиц, которые никогда в жизни не пользовались ИИ — именно это и происходит, когда косвенный признак подменяет собой то, что вас действительно волнует.
Это также второй случай, когда подобные меры принимаются в ответ на публикацию в СМИ, а не в результате самостоятельного обнаружения. YouTube удалил несколько каналов после первой статьи Semafor о созданных ИИ видеороликах об упадке «синих» штатов в начале августа, в то время как компания Riddance отслеживала эту сеть еще с июня.
Инфраструктура распространения по-прежнему работает
Удаление исходных каналов не очищает сеть от кликов. В Riddance задокументировали десятки аккаунтов в TikTok, которые повторно распространяют фрагменты из длинных видеороликов, причем некоторые из них делают это эксклюзивно.
Эти аккаунты существуют внутри гораздо более крупной экосистемы. Согласно подсчетам одного из исследований, почти 60% видео в TikTok, которые демонстрируются новым пользователям, представляют собой мусорный контент, созданный ИИ, так что удаленный материал не столько исчезает, сколько перемещается на более низкую полку.
Почему лазейка продолжает работать
Регулирование движется в том же направлении, что и политика платформ — в сторону синтетических медиа. Бразилия в преддверии выборов в настоящее время определяет, что именно считать дипфейком, однако определения, привязанные к сгенерированным образам, не смогут зафиксировать реального человека за кухонным столом.
Для реализации этой схемы не потребовалась передовая модель. Были нужны лишь большая языковая модель, аккаунт на Fiverr и кто-то готовый читать текст за 26 долларов.
Чан заявил в своем заявлении для Semafor, что Virelox является независимым цифровым медиаиздателем, который не обслуживает политических клиентов и не использует синтетических ведущих, а также что он не имеет абсолютно никакого отношения к одному из упомянутых каналов. Так или иначе, эта операция охватила десятки миллионов людей, прежде чем ее ликвидировали редакции двух новостных изданий, а не какой-либо алгоритм классификации.
Опубликовано 4 сентября 2026 - 06:25 Наверх
