Кто-то опубликовал 55 уязвимостей за несколько дней. 54 из них были выдуманы ИИ. Но одна всё же получила заслуженную десятку.

Индустрия программного обеспечения работает на основе общего списка известных ошибок. Теперь кто-то начал засорять этот список несуществующими поломками.

Компания по кибербезопасности JFrog обнаружила шесть критических уязвимостей в SQLite, которые оказались чистой воды выдумкой, сообщила она. В бюллетенях заявлялось о серьёзных ошибках памяти с оценками до 9,8 балла. Однако функции, на которые указывалось в отчетах, не существовали в упомянутых версиях, а код доказательства концепции (PoC) выполнялся без сбоев. Пропущенные через детектор GPTZero, эти описания были идентифицированы как сгенерированные машиной. Это был цифровой мусор от ИИ (AI slop).

И речь идет не только о шести случаях. Одна новая учетная запись на GitHub опубликовала 55 отчетов об уязвимостях всего за несколько дней, и JFrog выявила 54 подделки. Лишь одна содержала реальную ошибку, обернутую в фальшивые метаданные.

Остальные представляли собой выдуманные бреши в SQLite, библиотеке обработки изображений libraw и аудиодекодере Arduino. Red Hat на короткое время присвоила одной из записей по SQLite идеальную оценку 10,0, а затем снизила ее до 7,6. При этом SQLite добавила функцию, на которую якобы ссылались злоумышленники, только в 2025 году — через год после версии, которую они якобы взломали.

Как вымысел стал официальным

Фейки не остались на GitHub. Они попали в Национальную базу данных уязвимостей (NVD) — авторитетный архив правительства США. Там NVD отметила их как критические, а команда CISA доработала их. Как только уязвимость попадает туда, сканеры и защитники по всему миру начинают воспринимать ее как реальную.

Вся система держится на доверии. Любой может отправить CVE через публичную форму MITRE, и организации, которые их присваивают, в основном верят подавшему на слово. «CNA зачастую не имеет возможности самостоятельно проверить отчет», — отметил инженер Oracle Алан Куперсмит (Alan Coopersmith).

Раньше NIST служил надежным заслоном. Его эксперты вручную проверяли каждую запись. Затем лавина заявок вынудила их приостановить глубокий анализ в начале 2024 года. К концу 2025 года очередь из необработанных отчетов превысила 27 000. Федеральный надзорный орган заявил, что ведомство потратило деньги впустую, не справившись с разбором завалов. Теперь ни один этап конвейера не требует от кого-либо обязательного воспроизведения ошибки.

Машины обманывают машины

Настоящая опасность заключается в том, что эти записи считывают дальше. Команды безопасности все чаще задействуют ИИ-агентов для написания кода, чтобы исправлять обнаруженные недостатки. Если передать такому агенту сфабрикованную CVE, он может начать поиск уязвимой функции, которую никто никогда не писал. В результате он изменит работающий код, чтобы устранить несуществующую проблему.

В этом цикле практически нет человека. Один ИИ пишет правдоподобный бюллетень, слабо укомплектованный штат пропускает его, а другой ИИ пытается его исправить. Та же самая бессодержательная беглость уже преследует код, написанный искусственным интеллектом.

Афек Бергер (Afek Berger) из JFrog охарактеризовал это как асимметрию. По его словам, создание убедительной фальшивки теперь почти ничего не стоит. Проверка же стоит ровно столько же, сколько и раньше: прочитать исходный код, собрать версию, запустить доказательство концепции.

Даже обладающие большими ресурсами специалисты по защите не могут проверять каждый отчет вручную. CISA и NIST отстают слишком сильно, чтобы помочь. Система доверия никогда не была рассчитана на машины, способные лгать в промышленных масштабах.