Конфликт математиков с OpenAI из-за непроверенных доказательств обостряется

Двадцать пять ведущих математиков мира, каждый из которых удостоен медали Филдса, подписали открытое письмо, выражающее обеспокоенность поведением компаний, работающих с искусственным интеллектом, в математической сфере. Подписавшие утверждают, что лаборатории ИИ, соревнуясь между собой в решении известных математических задач, ставят под угрозу интеллектуальный труд исследователей.

Конфликт обострился на этой неделе, когда профессор Нью-Йоркского университета Тристан Бакмастер обвинил OpenAI в давлении с целью не упоминать соавтора, работающего в Anthropic, в связи с решением важной математической задачи. Бакмастер также предположил, что OpenAI могла использовать их совместную работу с инструментом Codex, чтобы за одни выходные интенсивных вычислений создать собственное доказательство.

В четверг OpenAI отозвала спонсорство математического мероприятия в Калифорнийском технологическом институте (Caltech) после критики со стороны исследователей этого учебного заведения.

Опасения по поводу авторства и проверки

Авторы письма утверждают, что решения математических задач, полученные с помощью ИИ, принесут пользу человечеству только в том случае, если математическое сообщество и остальной мир смогут их понять и осмыслить. Они критикуют практику, при которой решения объявляются в спешке, без времени на подготовку полноценного описания, выделение новых методов или указание ссылок на предыдущие работы других учёных — при этом доказательство OpenAI остаётся непроверенным. Без готовности математиков интегрировать эти идеи в общий свод математических знаний, говорится в письме, порождённые ИИ идеи никогда не обретут полноценной жизни, а важная цепочка передачи знаний между учёными будет разорвана.

Многие математики стали более осторожными, опасаясь, что их работа с Codex может быть впоследствии использована при обучении новых моделей OpenAI. Существует реальное опасение, что ведущие лаборатории могут тратить десятки миллионов долларов, используя языковые модели, чтобы опередить оригинальных исследователей в получении доказательства, что стимулирует секретность вместо открытости.

Это письмо последовало за Лейденской декларацией, опубликованной в июне рабочей группой математиков, которая также рассматривает, как доказательства, созданные ИИ, меняют работу учёных, и предлагает рекомендации для исследователей, институтов и политиков. Подписавшие отмечают, что проблемы, с которыми сейчас сталкивается математическое сообщество, схожи с вызовами в других научных и творческих областях, указывая на более широкий вопрос — как сохранить смысл труда в условиях, когда ИИ меняет способ его выполнения.