Twitch будет обучать ИИ Amazon на ваших трансляциях, если вы не найдете нужную настройку

Twitch добавила настройку, позволяющую стримерам запретить Amazon использовать их трансляции, клипы и чат для обучения генеративного ИИ. Функция спрятана в настройках безопасности и по умолчанию отключена. Директор по продукту Майк Минтон прямо объяснил причину выбора настроек по умолчанию: если бы требовалось добровольное согласие (opt-in), никто бы не согласился.

На платформе Twitch появилась функция, которая запрещает Amazon обучать модели генеративного ИИ на вашем контенте. По умолчанию она отключена, а это значит, что обучение активно. Директора по продукту Майка Минтона спросили, почему это работает именно так, и он ответил без утайки: «Если бы требовалось согласие, никто бы не согласился».

Минтон заявил об этом во время прямой трансляции на этой неделе вместе с руководителем отдела сообщества Мэри Киш, после того как стример Зак Басси обнаружил этот переключатель и скриншот разошелся по сети. Он добавил, что нормально относится к обучению ИИ и сам бы не стал отказываться от него, если бы был стримером.

Под сбор данных подпадает практически всё: трансляции, прошлые эфиры, клипы, сообщения в чате, а также изображения и текст на странице канала. В качестве собственного примера Twitch приводит то, что голос стримера может быть использован для обучения моделей распознавания речи, что улучшит субтитры на самом Twitch и в других ИИ-продуктах Amazon.

Чат — это то место, где данный переключатель перестает работать. Отказ от участия защищает то, что происходит на вашем канале, но сообщения, которые вы отправляете в чате у кого-то другого, все равно могут быть собраны, если тот стример не отключил эту функцию. Подобные пробелы и ранее заставляли создателей контента уходить в другие места — на сервисы, созданные исключительно для живых художников.

Утверждение о том, что Twitch только что начал это делать, не совсем верно. Новым является сам переключатель, а не практика. На вопрос о том, использовались ли их видео ранее, Минтон ответил, что не знает, что именно Amazon делала для обучения моделей, хотя, по сообщениям прессы, платформа подпитывала этот процесс уже пару лет.

Кроме того, отказ прекращает только само обучение. ИИ продолжает работать на Twitch для модерации чата, подбора рекламы и рекомендаций, и данные изменения этого никак не касаются.

Эта настройка находится по адресу twitch.tv/settings/security. На вопрос во время той же трансляции, почему Twitch просто не разослал людям электронные письма об этом, Киш ответила, что не все читают свои письма.

Настройки по умолчанию, выбранные потому, что пользователи от них откажутся — это хрестоматийное определение темного паттерна. Необычным здесь является лишь то, что топ-менеджер описывает логику без прикрас.

В материалах СМИ ничего не говорится о том, как настройки по умолчанию работают в Европе. Это важно, поскольку согласие в формате «по умолчанию с возможностью отказа» для обучения ИИ уже подвергалось там сомнению, и компании Meta пришлось приостановить аналогичный подход в 2024 году, прежде чем регуляторы разрешили его возобновить.