ИИ-ответ Илона Маска Википедии тихо прекратил обновление

Grokipedia, написанная искусственным интеллектом энциклопедия, созданная Маском в противовес Википедии, судя по всему, тихо перестала работать. Согласно анализу Lawfare, проведенному исследователями Рене ДиРеста (Renée DiResta) and Рональдом Робертсоном (Ronald Robertson), с 24 апреля не изменилась ни одна из её шести миллионов статей.

Это уже более трёх месяцев молчания.

Главный признак этого — очередь правок. Читатели могут предлагать исправления, которые ИИ должен проверять, а затем одобрять или отклонять, зачастую в течение нескольких минут. Теперь же они просто скапливаются. Исследователи насчитали 13 002 предложения, «застрявших на рассмотрении», и не обнаружили ни одной принятой или отклонённой правки за последние три месяца на 34 519 страницах.

Машина перестала редактировать сама себя

Ещё более странно то, что Grokipedia должна писать и переписывать себя сама. Большинство изменений вносили её собственные боты — «grok» и «Grok Editor». Они замолчали в период с марта по середину апреля. С конца апреля каждое предложение поступает от человека, и каждое попадает в очередь, за которой не следит ни одна машина.

Проблема была не в спаме. Фактические исправления составляли 97% запросов, и до заморозки система пропускала более трёх четвертей из них. Конвейер работал, а потом кто-то его выключил.

Оставшийся после этого архив представляет собой беспорядок. Массовая перезапись в марте нарушила связи между предложениями и текстом, к которому они относились. Затем сайт пометил ранее принятые правки как «отклонённые», даже если изменения уже были внесены. Добровольцы, сделавшие всё правильно, теперь видят, что они якобы ошиблись.

Почему замороженная энциклопедия имеет значение

Мёртвый побочный проект не имел бы большого значения. Но Grokipedia не совсем из таких. Similarweb зафиксировал 6,7 миллиона посещений в июне, а её страницы разошлись по сети. Согласно одному из анализов, Grokipedia цитировалась около 356 000 раз в таких системах ответов на базе ИИ, как ChatGPT и Google AI Mode. Справочный ресурс, который незаметно замерз, может поставлять устаревшие или неверные факты в системы, к которым люди теперь обращаются вместо поисковиков.

По сути, это история не о низкопробном мусорном ИИ-контенте. В Grokipedia полно солидных, хорошо структурированных статей. Исследователи подчёркивают, что энциклопедия с поддержкой ИИ и реальным участием человека может быть полезна. Проблема возникает тогда, когда у людей нет доступа, а машина умолкает.

Добровольцы редактируют Википедиию, при всех её недостатках, около четверти миллиона раз в день — публично, с фиксацией каждого изменения. Когда мусорный ИИ засоряет общую базу знаний, кто-то может это увидеть и отменить. Grokipedia же теперь предлагает ящик для предложений, за которым ничего нет.

Она мертва или просто отдыхает?

Никто за пределами xAI этого не знает. Компания не ответила на запрос The Verge, который опубликовал эти выводы. Маск, который раньше постоянно писал о Grokipedia, не упоминал её с февраля. Исследователи прямо говорят о том, чего они не могут видеть: они не знают, занимается ли xAI тихой переработкой проекта или просто отказалась от него.

Любой из этих вариантов выглядит неловко для продукта, который преподносится как честное, самокорректирующееся будущее знаний. Маск создал Grok от xAI, чтобы отвечать на вопросы всего мира, и позиционировал Grokipedia как его справочную библиотеку. По крайней мере в течение трёх месяцев эта библиотека не могла зафиксировать столь базовый факт, как выход SpaceX на биржу. Её репутация в плане точности информации и так оспаривалась. Теперь же она даже не пытается.