В Бразилии появилась редкая птица. Искусственный интеллект её туда поместил.

В центральной части Бразилии объявилась редкая птица, или по крайней мере так казалось. Фотография на платформе для наблюдения за дикой природой iNaturalist запечатлела красноплечего трупиала. Этот североамериканский вид никогда прежде не появлялся в той части Бразилии. Это стало бы сенсационной первой находкой.

Вот только это была неправда. Птицей на оригинальном снимке оказался брусничный трупиал (пальмовая иоанна) — обычный местный вид. Фотограф попросил инструмент ИИ сделать снимок «лучше». Программа любезно добавила черты от совершенно другой птицы.

Проблема «лучшего вида»

Этот случай лежит в основе предупреждения исследователей, опубликованного в виде комментария в журнале Nature Ecology & Evolution. По их словам, генеративный ИИ начинает засорять базы данных гражданской науки. Эти наблюдения, собранные силами добровольцев, помогают ученым понять, где обитают виды и как они мигрируют.

Это происходит двумя путями. Более редкий — откровенные фальшивки, изображения, созданные с нуля и выдаваемые за настоящие. Более распространенный — гораздо тоньше. Бёрдвотчер просит ИИ убрать ветку или сделать размытый кадр более резким. Затем модель перестраивает птицу, стирая определительные признаки, по которым ее можно опознать.

Исследователи заявляют, что уже обнаружили несколько сотен подозрительных снимков в библиотеке Маколея, на iNaturalist и в бразильском проекте WikiAves. Истинное количество остается неизвестным, поскольку многие фальшивки ускользают незамеченными.

Почему архивы имеют значение

Эти платформы — не просто галереи для любителей. Только на iNaturalist хранится более 610 миллионов изображений. Ученые анализируют их, чтобы отслеживать реакцию дикой природы на потепление климата.

«Обычные люди публикуют информацию, которую ученый вряд ли когда-либо смог бы получить в таком масштабе», — отметил Тони Иване из iNaturalist, соавтор научной работы. Он назвал эту сеть «чем-то вроде датчика происходящего на Земле в реальном времени». Его оговорка: информация должна быть точной.

Если подкармливать систему некачественными данными, выводы окажутся неверными. Одно-единственное придуманное ИИ наблюдение может создать впечатление, что вид сместил свой ареал, хотя на самом деле этого не происходило. Есть и вторая проблема. Измененные изображения, используемые для обучения инструментов распознавания на базе ИИ, могут постепенно ухудшать их качество.

Искусственный мусор встречается с дикой природой

Откровенные подделки обычно легко обнаружить. «Никто не верит в наблюдения туканов в Сибири», — рассказал доктор Александер Лис изданию The Guardian. Эколог из Манчестерского столичного университета руководил исследованием и утверждает, что именно незаметные правки представляют собой реальную угрозу.

Лис выразился прямо: огромная доля фотографий дикой природы, которые он сейчас видит в Facebook, просто созданы с помощью ИИ. Это тот же самый ИИ-мусор, который захлестнул остальной интернет. Однако здесь он портит научный архив, а не ленту соцсети. Те же самые инструменты, которые воссоздают никогда не снятый на видео гол, способны сотворить птицу, которой никогда не существовало.

Борьба в ответ

Платформы начинают принимать меры. Теперь iNaturalist позволяет пользователям отмечать изображения двумя способами. Метка «полностью создано ИИ» скрывает снимок. Метка «слишком отредактировано» понижает его до статуса «обычного», поэтому он никогда не попадает в исследовательские базы данных.

Пока что лишь около 1 400 из 610 миллионов изображений имеют метку ИИ. Примерно 600 помечены как полностью сгенерированные. Это либо успокаивает, либо свидетельствует о том, как много упущено из виду — в зависимости от того, как на это посмотреть. Обнаружение подделок дается с трудом, в чем Meta убедилась на примере собственного детектора изображений ИИ.

Исследователи требуют более мощных инструментов: проверки подлинности изображений и верификации метаданных. Прежде всего они выступают за просветительскую работу, чтобы любители птиц усвоили: «улучшение» фотографии способно разрушить науку. Более широкий урок знаком по каждому уголку интернета, к которому прикоснулся ИИ. Как только подделки становятся достаточно качественными, доверие превращается в дефицитный ресурс.