«Мусорная математика»: OpenAI выходит из математического конкурса ИИ в Caltech

Компания OpenAI отказалась от спонсорской поддержки в размере 1 млн долларов студенческого мероприятия по математике с использованием ИИ в Caltech (Калифорнийском технологическом институте). Математики подписали открытое письмо с призывом отменить мероприятие. На следующий день 25 лауреатов Филдсовской премии опубликовали собственное отдельное заявление.

Два письма за два дня от двух разных групп — это самая жесткая реакция математического сообщества на компании, занимающиеся искусственным интеллектом, на сегодняшний день. Ни одно из них не касается того, работают ли модели. Оба они связаны с тем, как компании распоряжаются результатами.

Первое письмо и привязавшееся слово

Коалиция действующих и бывших математиков Caltech распространила открытое письмо от 8 сентября и опубликовала его 10-го числа. К моменту публикации под ним стоял 771 подпись. Издание Business Insider оценило число подписавшихся академиков и студентов более чем в 700 человек. Подписать его могут только представители сообщества Caltech и исследователи-математики со степенью PhD или выше.

В письме содержится призыв к организаторам приостановить мероприятие. В нем приводятся пять оснований. Первое из них привлекло наибольшее внимание СМИ. В письме это называется «мусорной математикой» (slop mathematics): результаты производятся быстро, а проверять их оставляют другим людям.

Главное обвинение звучит более прямолинейно, чем этот термин. Математикам-исследователям приходится верифицировать, распространять и исправлять результаты, о которых объявляют ИИ-компании. Такой труд «остается без компенсации, упоминания и признания», говорится в письме. Авторы делают вывод, что компании, занимающиеся ИИ, занимаются недобросовестной исследовательской практикой.

В одной из строк описывается экономическая сторона вопроса. Никакая разумная будущая модель математических исследований не предоставит каждому математику-исследователю ИИ-кредиты на сумму 20 000 долларов для доказательства какого-либо результата, отмечается в письме.

OpenAI ушла, Anthropic — нет

Компания OpenAI вышла из проекта в четверг, 10 сентября. Дэн Робертс (Dan Roberts), руководитель исследований в OpenAI, написал в X, что компания признает стремительный и разрушительный прогресс ИИ в математике. По его словам, OpenAI стремится привлечь математическое сообщество к обсуждению вопросов интеграции этой технологии. Труман Дикерсон (Truman Dickerson) сообщил об этом выходе для Business Insider.

Компания забрала свои кредиты на сумму 1 млн долларов. Anthropic внесла оставшийся 1 млн долларов и не стала выходить из проекта. По информации Business Insider, компания Anthropic не сразу ответила на запрос о комментариях.

Компания Anthropic провела ту же двухнедельную кампанию, пытаясь заручиться поддержкой математиков, а не отталкивая их. Издание TNW сообщило 6 сентября, что компания использовала Claude для формализации Великой теоремы Ферма в системе Lean за 11 дней. С тех пор она расширила бесплатный доступ и исследовательские кредиты для работ по формализации.

Второе письмо поступило от представителей высшего эшелона науки

11 сентября 25 лауреатов Филдсовской премии опубликовал декларацию под названием «Серьзиезное несоответствие ИИ в математике» (A Severe Misalignment of AI in Mathematics). Издание The Economist сообщило о 24 подписантах. На самом сайте указано 25 человек с премиями, присужденными в период с 1978 по 2026 год, а Теренс Тао назвал себя одним из 25 первоначальных подписантов.

Среди подписавших декларацию — Тао, Петер Шольце (Peter Scholze), Марина Вязовская, Седрик Виллани (Cédric Villani), Пьер Делинь (Pierre Deligne), Манджул Бхаргава (Manjul Bhargava) и Мартин Хайрер (Martin Hairer).

Их аргументация более узкая, чем в письме от Caltech, и направлена выше. Решение задач — это всего лишь инструмент и суррогат, пишут они. Главная цель — концептуальное понимание и озарение. Они предупреждают, что массовое производство верных или ложных утверждений с возрастающей скоростью «может уничтожить плодородную почву».

В декларации ни разу не упоминается Mathathon и не содержится призывов к его отмене. Это заявление касается бенчмарков.

Что представляет собой это мероприятие на самом деле

Организаторы объявили о проведении Mathathon 4 сентября. Он пройдет в Caltech с 30 октября по 1 ноября. Сто команд получают по 40 часов и около 20 000 долларов в виде кредитов на получение результата по открытой проблеме.

Команды, чью работу жюри сочтет достойной внимания сообщества, проходят во второй тур, который длится шесть месяцев. Этот тур теперь требует наличия препринта на arXiv, видеопрезентации и автоматически формализованного решения. Также предусмотрено образовательное направление для конспектов лекций, разъяснительных материалов и более чистых доказательств существующих теорем.

К 10 сентября организаторы получили более тысячи заявок — от студентов бакалавриата до преподавателей. Помимо кредитов на ИИ, они отмечают поддержку со стороны DARPA expMath и Cognition.

Организаторы — студенты бакалавриата, и они ответили отказом

Пять названных организаторов — студенты. Они опубликовали ответ в тот же день, когда появилось письмо, признав, что несколько опасений обоснованы и что их первоначальное описание не затрагивало эти вопросы.

Они внесли изменения. Они добавили требование arXiv после того, как об этом попросили в письме, и расширили образовательную программу. Они также удалили с сайта фразу о том, какова роль математика, когда ИИ может решать гипотезы быстрее. В сноске к самому письму зафиксировано это удаление.

Отменять мероприятие они не стали. Все организаторы подписали Лейденскую декларацию — официальное заявление, которое математики опубликовали в июне с требованием к ИИ-компаниям прекратить использование их работ без разрешения.

Кайман Морено-Эрл (Caiman Moreno-Earle), 19-летний студент второго курса Caltech, инициировал это мероприятие. Он рассказал Business Insider, что попросил у Anthropic 1 млн долларов во время звонка, рассчитывая, что ему предложат 50 000 долларов. По его словам, молодые математики не могут ждать, пока улягутся правила. «У нас нет роскоши выжидать, чтобы все выяснить», — сказал он. В настоящее время организаторы ищут кредиты на замену тем, что предоставила OpenAI.

Что стало причиной

Триггером послужили события на предыдущей неделе. Компания OpenAI заявила 8 сентября, что рой ее агентов получил решение проблемы Навье — Стокса, и опубликовала доказательство на следующий день, заявив при этом, что не будет претендовать на Премию тысячелетия в размере 1 млн долларов.

Тристан Бакмастер (Tristan Buckmaster) из Нью-Йоркского университета (NYU), работавший над тем же направлением вместе с Левентом Алпёге (Levent Alpöge) из Anthropic, заявил, что OpenAI предложила ему условия авторства, исключающие Алпёге. Себастьен Бюбек (Sébastien Bubeck) из OpenAI опроверг обвинения в попытке лишить Алпёге доли авторства. Позже Бакмастер заявил ABC, что устраивать гонку за публикациями теперь бессмысленно и игра окончена.

В августе TNW сообщало, что математические результаты ИИ, на которые ссылаются чаще всего, представляют собой контрпримеры, а не доказательства. Именно это различие защищают оба письма.

Нерешенные вопросы

Три вопроса остаются открытыми: найдет ли Mathathon новых спонсоров и на каких условиях; изменит ли уход OpenAI подход компании к этой области или повлияет только на данное мероприятие; и примет ли Математический институт Клея, в списках которого задача Навье — Стокса по-прежнему числится нерешенной, это доказательство вообще.