25 именитых математиков обвинили OpenAI в подрыве научной этики
Двадцать пять математиков — обладателей Филдсовской медали — подписали открытое письмо с критикой практики ИИ-лабораторий, соревнующихся в решении известных математических проблем.
Авторы письма утверждают, что гонка компаний за приоритет в доказательствах угрожает интеллектуальной культуре математического сообщества. Подписанты — лауреаты самой престижной награды в области математики.
Поводом для обострения конфликта стало обвинение профессора Нью-Йоркского университета Тристана Бакмастера в адрес OpenAI. По его словам, компания оказывала на него давление, требуя не упоминать соавтора, работающего в Anthropic, при публикации решения важной математической проблемы.
Бакмастер также заявил, что OpenAI могла использовать наработки его команды при подготовке собственного доказательства, полученного с помощью модели Codex за одни выходные.
На этой неделе OpenAI отозвала спонсорство математического мероприятия в Калифорнийском технологическом институте после критики со стороны исследователей вуза. Инцидент стал очередным эпизодом в серии конфликтов между ИИ-компаниями и академическим сообществом на фоне ускоренной публикации результатов, полученных при участии нейросетей.
В письме математики указывают на структурную проблему: решения, сгенерированные при помощи ИИ, зачастую публикуются в спешке, без должного оформления, выделения новых методов и корректных ссылок на предшествующие работы.
Это порождает вопросы об авторстве и плагиате. Доказательство, которое приписывают OpenAI, при этом остается неверифицированным независимыми экспертами.
Авторы письма подчеркивают, что без участия математиков, которые интегрируют новые идеи в общий корпус знаний, результаты работы нейросетей не станут частью математической традиции — цепочка передачи знаний между учеными будет разрушена.
Документ стал продолжением так называемой Лейденской декларации, опубликованной рабочей группой математиков в июне и содержащей рекомендации для ученых, университетов и регуляторов.
Опасения распространяются за пределы математики. Часть исследователей уже подозревает, что материалы, загруженные в Codex для собственных расчетов, впоследствии используются для обучения новых моделей OpenAI — это подрывает культуру открытого обмена результатами в науке в целом.
Авторы письма отмечают, что схожие вызовы стоят перед другими научными и творческими профессиями и в конечном счете затрагивают вопрос сохранения смысла человеческого труда в условиях распространения ИИ.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
