Substack добавляет функцию обнаружения ИИ для борьбы с «клоудфишингом»

У Substack появилось название для момента, когда вы понимаете, что пост, который вы оценили за его «человеческий» голос, на самом деле написал бот: клоудфишинг. Теперь платформа дает читателям в руки кнопку для его разоблачения на базе детектора ИИ Pangram.

Платформа новостных рассылок запустила функцию обнаружения искусственного интеллекта. В программном посте под названием «Против клоудфишинга» генеральный директор Крис Бест заявил, что читатели теперь могут сканировать посты, заметки, ответы и комментарии. Инструмент оценивает, какая часть текста была написана человеком, а какая создана с помощью ИИ.

Сканирование работает для текстов длиннее 100 слов, опубликованных начиная с сегодняшнего дня, а результат виден только тому, кто запросил проверку. Функция уже доступна в веб-версии и на iOS, а версия для Android появится позже.

Что означает клоудфишинг

Бест особо подчеркивает, что проблема заключается вовсе не в самом ИИ. Он отметил, что Substack использует искусственный интеллект для создания программного обеспечения и функций продуктов, и многие авторы охотно применяют его в своей работе. Проблема заключается в несоответствии: читатели уделяют внимание материалу, за которым не стоит человеческая мысль. «У Claude есть много достоинств, — написал он. — Но когда мне понадобится мнение Claude, я обращусь к Claude».

Ставки растут стремительно. По оценкам Pangram, до 40% текста на некоторых социальных платформах в настоящее время генерируется искусственным интеллектом. Substack, позиционирующий себя как экономический двигатель культуры, основанный на доверии между людьми, стремится не допустить превращения своей ленты в подобный цифровой мусор.

Не запрет

Эти инструменты палками о двух концах. Авторы могут запускать детектор для собственных черновиков перед публикацией, добавлять заявление «Как я это сделал», объясняющее их творческий процесс, и обжаловать любую проверку их работ, которую они считают ошибочной. Substack сводит всю концепцию к простому принципу: люди должны знать, за что они платят.

Это необычно прямой шаг на рынке, который утопает в сгенерированных ИИ лентах. В посте даже прозвучал выпад в адрес LinkedIn — платформы, которую многие считают эпицентром искренности, написанной машинами.

Подводные камни

Главная сложность заключается в том, что обнаружение ИИ — это еще не точная наука. Pangram работает с высокой точностью, но не идеально, и издание The Atlantic предупредило, что излишнее доверие к нему грозит превратить обвинения в «охоту на ведьм». Сам Substack признает, что инструмент не может определить, вложил ли автор подлинную заботу в свое произведение, а лишь выявляет, формировал ли ИИ слова.

Критики идут еще дальше. Разработчик Перри Мецгер утверждал, что любой детектор позволяет настроить ИИ так, чтобы обойти его, поэтому подобные инструменты не могут эффективно работать долгое время. Исследователь Мор Нааман назвал детектирование проигранной битвой: если читатели начнут сканировать тексты, авторы тоже будут использовать сканеры и найдут способы их обойти. Как выразился один из комментаторов на Substack, наличие ИИ не доказывает отсутствие человека.

Сугубо человеческий бизнес

В основе лежит серьезная ставка. Как отметил Питер Кафка из Business Insider, если победит ИИ, отметка «сделано людьми» может стать очень успешным бизнесом. Substack делает ставку на то, что доказательство того, что работу выполнил человек, станет дефицитным и ценным товаром. Тот факт, что эта борьба разворачивается вокруг новостных рассылок, лишь показывает, насколько далеко зашел этот вопрос.