25 математиков с медалями Филдса выступили против OpenAI: учёные опасаются, что ИИ превращает научную конкуренцию в гонку за чужими открытиями

Конфликт между OpenAI и математическим сообществом вышел на новый уровень. Двадцать пять обладателей медали Филдса подписали открытое письмо, в котором предупредили об угрозе для научной работы из-за стремления ИИ-компаний первыми решать знаменитые математические задачи. Учёные опасаются, что такая гонка может привести к потере авторства, росту секретности и разрушению традиционной культуры открытых исследований.

OpenAI оказалась в центре конфликта с математиками

Поводом для нового витка противостояния стала серия громких математических достижений OpenAI. Компания заявила о решении одной из задач тысячелетия — проблемы Навье — Стокса, над которой математики работают десятилетиями.

Для получения результата OpenAI, по собственным данным, задействовала около 10 000 ИИ-агентов и десятки миллионов долларов вычислительных ресурсов. Поиск решения занял примерно 88 часов.

Однако вместо однозначного восторга достижение вызвало серьёзные вопросы в научном сообществе.

Математики считают, что технологическая гонка между OpenAI и другими разработчиками ИИ постепенно меняет правила научной работы. Компании обладают практически несопоставимыми с университетскими лабораториями вычислительными ресурсами и могут в считанные часы запускать тысячи агентов для проверки идей, над которыми отдельные исследователи работали годами.

Учёный обвинил OpenAI в попытке изменить состав авторов

Особенно громким стал конфликт вокруг профессора Нью-Йоркского университета Тристана Бакмастера, который вместе с исследователем Anthropic Левентом Альпёге занимался проблемой Навье — Стокса.

По словам Бакмастера, представители OpenAI предложили ему сотрудничество, однако при этом хотели исключить Альпёге из работы из-за его связи с конкурирующей компанией Anthropic. Учёному якобы предлагались практически неограниченные вычислительные ресурсы и возможность стать единственным автором будущей работы OpenAI.

Бакмастер отказался и публично рассказал о ситуации. OpenAI, в свою очередь, отвергла его наиболее серьёзные обвинения и заявила, что данные конкретных запросов исследователя в Codex не использовались для получения результата.

Математики опасаются использования незавершённых исследований

Отдельный вопрос связан с тем, какую информацию ИИ-компании получают от самих исследователей.

Учёные используют продукты OpenAI, включая Codex и ChatGPT, для работы над сложными математическими задачами. Поэтому исследователи задаются вопросом, могли ли сведения из таких взаимодействий прямо или косвенно повлиять на последующее совершенствование моделей.

OpenAI отрицает использование конкретных пользовательских данных Бакмастера. Однако сама неопределённость уже подрывает доверие части математического сообщества. Похожие вопросы возникали и вокруг немецкого математика Андреаса Тома, чья работа ранее оказалась тесно связана с одним из математических результатов OpenAI.

Учёные боятся промышленного «перехвата» открытий

Главная проблема, по мнению математиков, заключается даже не в конкретном споре с OpenAI.

Если ИИ-компании начнут систематически отслеживать перспективные направления исследований, а затем использовать огромные вычислительные мощности для опережения академических групп, традиционная конкуренция в науке может измениться навсегда.

Раньше исследователю, узнавшему о работе коллеги над сложной задачей, было крайне трудно быстро повторить её и получить результат первым. Теперь ИИ-компания может задействовать тысячи агентов одновременно и существенно ускорить этот процесс.

В результате учёные могут начать скрывать незавершённые исследования и перестанут делиться перспективными идеями с коллегами. Некоторые математики уже пересматривают практику публикации списков важных нерешённых задач, опасаясь, что такие материалы могут превратиться в своеобразный список целей для ИИ-компаний.

25 обладателей медали Филдса потребовали изменить подход к ИИ

Новое открытое письмо стало очередным публичным сигналом тревоги. Его первоначальными подписантами стали 25 ведущих математиков — все они являются обладателями медали Филдса, одной из самых престижных наград в этой области.

Авторы письма признают огромный потенциал искусственного интеллекта для математики. Однако, по их мнению, одного факта получения правильного доказательства недостаточно.

Результат должен быть понятен другим математикам, тщательно проверен, правильно оформлен, а его интеллектуальные источники и вклад других исследователей должны быть отражены в публикации.

Учёные предупреждают, что поспешные заявления об очередном достижении ИИ могут привести к проблемам с авторством и признанием научного вклада.

Навье — Стокс пока официально не считается решённой

При этом OpenAI ещё не получила официального признания решения задачи тысячелетия.

Институт Клэя, который курирует премию в $1 млн за решение каждой из семи задач тысячелетия, требует, чтобы опубликованный результат получил широкое признание математического сообщества в течение как минимум двух лет.

Поэтому нынешнее заявление OpenAI ещё не означает окончательной победы. Более того, компания уже заявила о существенном прогрессе в работе над ещё одной задачей тысячелетия, однако не раскрыла, о какой именно проблеме идёт речь.

ИИ может изменить не только математику, но и саму научную культуру

Ситуация вокруг OpenAI показывает, что спор постепенно выходит далеко за рамки вопроса о том, способен ли искусственный интеллект решать сложные математические задачи.

Математиков беспокоит другое: кто будет считаться автором открытия, кому должны принадлежать новые идеи и насколько допустимо использовать ИИ для конкуренции с исследователями, предоставляющими этим системам свои наработки.

В июне учёные опубликовали Лейденскую декларацию об ответственном использовании ИИ в математике. Документ уже получил поддержку Международного математического союза и тысячи подписей.

Вывод

ИИ действительно способен ускорить решение математических задач, которые ещё недавно считались практически недостижимыми. Однако стремительное превращение науки в соревнование между крупнейшими ИИ-компаниями создаёт новую проблему: академические исследователи могут просто не обладать ресурсами, необходимыми для конкуренции с тысячами машинных агентов и огромными вычислительными бюджетами.

Если OpenAI и другие разработчики ИИ не смогут выработать понятные правила работы с научными данными, авторством и независимой проверкой результатов, математика рискует стать значительно более закрытой дисциплиной. Вместо свободного обмена идеями учёные могут начать скрывать свои исследования, опасаясь, что технологический гигант успеет решить задачу раньше них.