Instagram заблокировал поисковые запросы. Но алгоритм всё равно показывает эти видео
Этот жанр довольно просто описать. Мужчина в очках со встроенной камерой подходит на улице к женщине. Он произносит фразу и снимает её реакцию без спроса. Ролик попадает в Instagram с тегом, что он снят на очки Meta. Теперь женщина — это контент. Некоторые из таких видео набирают миллионы просмотров.
Адам Моссери, руководящий Instagram, заявил в середине июля, что с этим нужно покончить. Meta пообещала удалять «докучливые» видео с пикапом в рамках действующих правил борьбы с буллингом и домогательствами. Мы рассказывали об этом обещании, когда оно было дано.
«Мы не хотим, чтобы люди тайком снимали других, домогались их, а затем публиковали это на нашей платформе», — заявил тогда Моссери.
Девять из более чем 20
Издание Business Insider потратило следующий месяц на проверки. Кэти Отопулос обнаружила, что десятки таких видео по-прежнему доступны, причем несколько из них — в популярных и верифицированных аккаунтах. Она отправила в Meta список из более чем 20 роликов. Компания удалила девять.
Один из случаев удаления весьма показателен. Создатель контента использовал одну и ту же фразу в отношении нескольких разных женщин в нескольких разных видео. Meta удалила лишь тот ролик, что был в списке. Остальные остались на месте.
В Meta не отрицают, что принимают меры. Представитель компании Трейси Клейтон сообщила, что были удалены тысячи единиц контента и заблокировано несколько крупных аккаунтов. Теперь Instagram блокирует поисковые запросы «rizz» и «cold approach» — сленговые термины для такого контента. Это реальные меры принуждения, и ни одна платформа не осуществляет модерацию идеально при таком масштабе.
Проблема заключается в сопутствующих тенденциях. Один крупный аккаунт, деактивированный в ходе первой волны, вернулся через несколько дней. В Meta заявили, что это была ошибка, и повторно заблокировали его, как только Business Insider указал на это. Второй аккаунт со 174 тысячами подписчиков Meta деактивировала на следующее утро после того, как он появился в списке журналистки. Его владелец подал апелляцию. Спустя день аккаунт снова заработал, а видео были восстановлены.
Это проблема не только Instagram. TikTok удалил два из четырех полученных им видео, сославшись на буллинг и сексуальные домогательства. YouTube удалил несколько роликов и лишил один из каналов возможности монетизации.
Лента делает всю работу за пользователя
А вот о чем умалчивали последующие материалы. Отопулос сообщает, что после того, как она сама стала искать и просматривать эти видео, Reels начали подсовывать ей всё больше подобных роликов, пока её лента почти полностью не заполнилась этим жанром. Поисковые запросы стали просто не нужны.
Meta заблокировала слова, которые люди используют для поиска этого контента. Но рекомендательная система находит его сама. Обе системы принадлежат одной компании, и они тянут в противоположные стороны.
Это куда важнее любого отдельного удаления. Блокировка поискового запроса останавливает целенаправленный поиск. Но она ничего не делает с алгоритмом ранжирования, который оптимизирован под удержание внимания, а этот контент внимание явно удерживает. Модерация удаляет отдельные элементы. Рекомендации же определяют, сколько людей увидит то, что осталось.
Исследователи начали подсчеты
Это утверждение теперь звучит не только в журналистских расследованиях. Четыре исследователя из Сиднейского университета — Джоанн Грэй, Милица Стилинович, Маркус Картер и Бен Эглистон — просмотрели сотни таких видео и на прошлой неделе опубликовали препринт. Он называется «Вред через «#RizzCam»: умные очки, фоновый захват и невидимые домогательства» («Harm Through the ‘#RizzCam’: Smart Glasses, Ambient Capture and Invisible Harassment»).
Издание 404 Media написало об этой работе 12 августа. Поскольку работа является препринтом, она еще не прошла рецензирование.
Каролина Аре, цифровой криминолог из Лондонской школы экономики, рассказала Business Insider, что реакция Meta не соответствует масштабу проблемы.
«Возникает негативная реакция, после чего Meta обычно пытается минимизировать собственную ответственность. Они говорят о том, что это поведение, генерируемое пользователями, или сбой в модерации, — отметила она. — Но они не признают системных проблем, которые к этому приводят».
Проблема, которую Meta создала и продает
Причина, по которой Моссери лично озвучил это обращение, в то время как руководители других платформ промолчали, заключается в том, что Meta причастна к обеим сторонам проблемы. Очки — это ее продукт. Лента — это ее продукт. Домогательства находятся ровно посередине.
Аппаратное обеспечение пользуется коммерческим успехом. Продажи в 2025 году превысили 7 миллионов единиц, что более чем втрое превышает показатели предыдущего года, а компания Counterpoint Research уверенно ставит Meta на первое место в сфере умных очков. Это делает их редким успехом внутри подразделения Reality Labs, которое до сих пор несет убытки и сокращало рабочие места в текущем году. Марк Цукерберг утверждал, что люди без ИИ-очков окажутся в когнитивном проигрыше по сравнению с теми, у кого они есть.
Репутация оказалась под ударом, и волна негатива нарастает уже два месяца. Обычная наклейка за 2 доллара помогла обойти индикатор записи. Очки запретили в британских пабах, а затем и в судах Англии и Уэльса. Пользователи заполнили комментарии под публикациями Кайли Дженнер, называя ее очки от Meta «очками извращенца».
Автоматизация чистки
Ответом Meta на модерацию в больших масштабах становится усиление автоматизации. В июне компания сообщила газете Financial Times, что предварительные тесты показали: ее ИИ-системы выявляют больше нарушающего правила контента, чем люди-модераторы, и при этом совершают меньше ошибок. Сохранится ли этот показатель при масштабировании, пока не доказано.
Сара Т. Робертс, соучредитель Центра критических исследований интернета при Калифорнийском университете в Лос-Анджелесе, прямо описала сложившуюся ситуацию для Business Insider.
«Они же не вчера запустили эти платформы, — сказала она. — У них уже есть 20 лет понимания того, как люди будут вести себя на самом деструктивном уровне, если им предоставить такую возможность».
Вероятно, качество соблюдения правил вырастет. Куда более сложный вопрос заключается в том, на который никто в Meta так и не ответил. Компания продает камеру, которая создана так, чтобы быть незаметной, и одновременно управляет лентой, которая поощряет то, что эта камера фиксирует. Удаление видео по одному — это лишь борьба с симптомами. Машина, которая их производит, продолжает работать.
