Нью-йоркский стартап Pangram, известный выявлением текстов, написанных ИИ, представил две модели для распознавания сгенерированных ИИ изображений и видео, сообщила компания в среду. Pangram Image 1.0 проверяет статичные изображения, а более компактная и быстрая Pangram Image Flash 1.0 анализирует видео кадр за кадром.
Модель для изображений также умеет строить тепловую карту, показывающую, где на снимке находится ИИ-контент, — например, поддельный объект, добавленный на реальную фотографию. По данным Pangram, она распознаёт 99,2% ИИ-изображений и ошибочно помечает 0,27% настоящих.
В собственном тесте Pangram создала ИИ-копии 100 реальных фотографий с помощью 12 ведущих генераторов изображений, используя промпты, максимально точно описывающие каждый оригинал. На этом наборе Image 1.0 показала точность 99,96%. Тест разработала сама Pangram, а не независимые эксперты.
Для видео Pangram использовала DF26 — академический бенчмарк из 2 691 ролика, где люди говорят на камеру, опубликованный в сентябре. Его авторы выяснили, что и люди, и ведущие детекторы отличали настоящие ролики от подделок лишь немногим лучше, чем при случайном угадывании.
По словам Pangram, Flash 1.0 набирает на DF26 98,7% — на 29 пунктов больше ближайшего конкурента.
Новые модели также работают с изображениями меньшего размера — от 256 на 256 пикселей вместо прежних 512 на 512. Результаты для изображений меньше 512 пикселей сопровождаются предупреждением о пониженной достоверности. Pangram утверждает, что обучает модели не поддаваться сжатию, размытию и шуму, которые могут добавлять платформы и люди, пытающиеся обмануть детекторы.
Image 1.0 теперь работает в расширении Pangram для Chrome, которое помечает ИИ-контент в соцсетях, на торговых площадках и сайтах аренды. Пользователи также могут загружать видео в веб-приложении, а API теперь поддерживает и изображения, и видео. Платформы тоже ужесточают правила: Snapchat перестал рекомендовать ИИ-видео в Spotlight.
В июле Pangram привлекла 9 млн долларов в раунде под руководством Menlo Ventures, тогда же впервые продемонстрировав распознавание изображений. Её детектор текста уже используется на Substack.
ИИ-детекторы по-прежнему ошибаются. В августе текстовый инструмент Pangram пометил колонку профессора Беркли как частично написанную ИИ, с чем она не согласилась.
Даже собственный детектор изображений Meta в тестах Reuters более чем в половине случаев пропускал обрезанные подделки, созданные её же генератором. А на YouTube сеть, плятившая настоящим актёрам за чтение сценариев, написанных ИИ, обошла детекторы платформы.
Опубликовано 4 ноября 2026 - 10:49 Наверх
