Инструменты ИИ позволяют дёшево и в больших объёмах производить убедительные поддельные изображения, видео и заявления. Тем временем крупные социальные сети сократили часть команд, отвечающих за проверку контента, переложив выявление лжи в большей степени на автоматические фильтры и самих пользователей.
«Сейчас можно провести информационную операцию такого качества, которое в 2016 году было невозможно, причём очень-очень дёшево», — заявила изданию The Guardian Фрэнсис Хауген, бывший инженер по данным Facebook, ставшая информатором.
Хауген также объяснила, как распространители дезинформации обходят модерацию. Внося небольшие изменения в каждую версию ложного утверждения, они создают публикации, которые проходят автоматические фильтры, даже если похожий контент уже был помечен.
Слух о кандидате в Сенат от Техаса Джеймсе Таларико показывает, как быстро могут распространяться подобные заявления.
В начале этого месяца в публикациях на X утверждалось, что кандидат от Демократической партии проходит лечение в центре психического здоровья в Огайо, тогда как на самом деле он был дома с гриппом.
Больница и сам Таларико опровергли это заявление в течение нескольких часов, сообщило издание La Voce di New York. Однако слух продолжал циркулировать ещё несколько дней.
Исследователи из Института цифровой демократии Америк, который отслеживает дезинформацию, нацеленную на латиноамериканских избирателей, обнаружили, что история менялась по мере распространения в испаноязычных СМИ.
Она превратилась в ложное утверждение о том, что Таларико пытался покончить с собой. По словам исследователей, опровержение первоначального обвинения не остановило распространение изменённой версии.
Основательница института Роберта Брага заявила, что платформы применяют свои правила к испаноязычному контенту менее последовательно, чем к англоязычным публикациям.
«Теперь, когда они используют ИИ для значительной части модерации контента, сквозь пальцы, вероятно, проскальзывает ещё больше», — сказала она.
Созданный ИИ контент появляется и в официальной предвыборной рекламе. Кен Пакстон, республиканец, соперничающий с Таларико, запустил рекламу с сгенерированными ИИ изображениями кандидата-демократа.
В рекламе было указано на использование ИИ, а в ряде штатов, включая Пенсильванию, введены правила, требующие подобной маркировки.
Крупные платформы по-разному подходят к политической дезинформации, но их правила распространяются лишь на определённые типы контента. Meta маркирует созданные ИИ изображения, которые может распознать, и требует от политических рекламодателей раскрывать использование ИИ.
YouTube запрещает ложные утверждения о том, когда, где и как люди могут голосовать. X в основном полагается на краудсорсинговую систему Community Notes.
Многие другие вводящие в заблуждение политические заявления не подпадают под эти конкретные правила.
Meta и X не ответили на запросы The Guardian о комментарии. В YouTube заявили, что одни и те же правила действуют для всех пользователей, включая политических кандидатов.
Проблема выходит за пределы США. В Испании против политической партии подана судебная жалоба из-за предвыборного дипфейк-видео.
Поскольку предвыборные кампании всё активнее используют ИИ для создания и распространения контента, задача платформ сводится не только к выявлению синтетических медиа. Им также нужно отлавливать ложные заявления, которые видоизменяются по мере распространения среди разных языков и сообществ быстрее, чем за ними успевают опровержения.
Опубликовано 27 октября 2026 - 07:58 Наверх
