ИИ от Meta удаляет аккаунты, и единственный способ подать апелляцию — это другой ИИ

Камилла Хансон проснулась посреди ночи в марте от уведомления: Meta пометила ее аккаунты в Facebook и Instagram как подлежащие удалению. Они с мужем вели там бизнес по обучению английскому языку с аудиторией почти в миллион подписчиков. Meta заявила, что она нарушила правила компании в отношении мошенничества и введения в заблуждение, сообщила The New York Times.

Она подала апелляцию. Неделю спустя Meta отклонила ее. «Вся ваша информация будет удалена навсегда, — гласил ответ. — Вы не можете запросить повторное рассмотрение этого решения». Супруги Хансон ведут бизнес из Португалии, так что, по словам ее мужа, это было все равно что кто-то закрыл ваш магазин за одну ночь.

Люди исключены из процесса

В марте Meta заявила, что передаст больше полномочий искусственному интеллекту для оценки того, какие аккаунты нарушают ее правила, и для обработки апелляций. Месяцы спустя компания уволила тысячи сотрудников, в том числе тех, кто занимался именно этой работой.

С тех пор более 60 000 пользователей подписали петицию с просьбой к Meta объяснить свои блокировки и позволить живым людям рассматривать апелляции. Форумы на Reddit заполнились однотипными жалобами: автоматизированная система удаляет аккаунт, и ни один человек не отвечает.

Оправдания Meta

Meta отвергает мнение о том, что ИИ хуже людей. Представитель компании Дэниел Робертс заявил, что ее новые инструменты модерации совершают на 13% меньше ошибок, чем сотрудники-люди, и выявляют на 10% больше нарушений. Он отметил, что все пять аккаунтов, на которые обратила внимание Times, были заблокированы с помощью старых инструментов Meta.

«Мы стремимся сократить количество ошибок при применении мер и помогаем пользователям защищать свои аккаунты, и ИИ справляется с обеими задачами», — сказал он.

Впрочем, у компании были непростые отношения с автоматизацией. В мае хакеры использовали ее ИИ-чат-бот службы поддержки против 34 000 аккаунтов в Instagram. Сотрудники также взбунтовались из-за программы, которая отслеживала их нажатия клавиш для обучения ИИ. Компания также столкнулась с хаосом в своих инструментах рекламы на базе ИИ.

Кафкианская картина

Несправедливые блокировки часто сопровождаются самыми худшими обвинениями. Атения Родни, которая уже 17 лет руководит группой JuneteenthNY, потеряла аккаунты из-за предполагаемых материалов с изображением сексуального насилия над детьми. По ее словам, ее контент ориентирован на семейную аудиторию. На самом деле ее аккаунты захватили хакеры.

Чтобы восстановить их, она отправила документы, удостоверяющие личность, пожаловалась в Федеральную торговую комиссию США (FTC) и написала сотрудникам Meta в LinkedIn. Ничего не помогало, пока не вмешалась Times. Meta восстановила одного инфлюенсера, затем снова заблокировала его через несколько дней за авторские права, а затем снова восстановила.

Европейский аспект

Ставки выше в Европе, где те же автоматические блокировки затрагивают WhatsApp. Технический писатель М. Г. Зиглер, которого блокировали три раза, описал свою внезапную <предупреждений> блокировку в WhatsApp без каких-либо предупреждений и объяснений. Значительная часть жизни континента проходит в этом приложении — от работы до ухода за детьми.

Meta настаивает на том, что ключевые решения остаются за людьми. После того как 26 бывших сотрудников подали в суд, заявив, что алгоритм выбрал их для увольнения, Meta заявила, что такие решения «принимаются людьми, а не ИИ». Тем не менее для миллионов пользователей между ними и удалением стоит только бот. Апелляция — это тоже бот. Недовольство вряд ли утихнет, поскольку регуляторы уделяют все больше внимания подотчетности платформ.