Двадцать пять математиков, каждый из которых награждён медалью Филдса — самой престижной премией по математике, — подписали открытое письмо. В нём говорится, что лаборатории искусственного интеллекта угрожают их интеллектуальной работе, стремясь объединиться с решениями известных математических проблем.
В чём обвинили OpenAI математики?
На этой неделе профессор Нью-Йоркского университета Тристан Бакмастер обвинил OpenAI в том, что он заставил его не доверять сотруднику, который работает в Anthropic для решения важной математической проблемы, и задался вопросом, использовала ли компания свою работу с Codex для создания собственного новаторского доказательства в течение марафонского уик-энда вывода.
В четверг OpenAI отозвал свое спонсорство математического мероприятия в CalTech после того, как компания подверглась критике со стороны исследователей в университете.
Что беспокоит подписавших письмо?
В то время как способность моделей ИИ решать выдающиеся математические задачи в мире может быть благом для человечества, подписавшие новое письмо утверждают, что это будет иметь место только в том случае, если эти решения могут быть поняты и переданы математическим сообществом и, в конечном счете, остальным миром.
«Часто эти решения объявляются в спешке, не оставляя времени для правильного написания, изоляции новых методов и идей и ссылаясь на соответствующие предыдущие работы других, — пишут они, — и доказательство OpenAI остается непроверенным. — Как и во всех творческих профессиях, это вызывает серьезные вопросы атрибуции и плагиата». Более того, без готовых математиков, которые должны позаботиться о своем развитии и интеграции в математический канон, идеи, задуманные ИИ, никогда не станут полностью живыми, и критическая человеческая цепь передачи между математиками будет потеряна».
В то время как другие математики становятся параноиками и задаются вопросом, было ли их использование Кодекса, в свою очередь, подпитывается новыми моделями OpenAI, есть реальный страх, что культура открытых исследований будет под угрозой. Сегодня, если пограничные лаборатории видят полезный путь к открытию, они могут потратить десятки миллионов долларов, используя LLM, чтобы превзойти первоначальных исследователей.
Какие ещё документы появились раньше?
Это письмо следует за Лейденской декларацией, опубликованной рабочей группой математиков в июне. Этот документ также рассматривает способы, которыми доказательства LLM изменят свою работу, и предлагает ряд рекомендаций для математиков, учреждений и политиков.
Как и в случае с программной инженерией и другими областями, где инструменты ИИ меняют рабочие процессы, математики находят оправдание в работе вокруг работы: ценность математики заключается не только в доказательствах, но и в интеллектуальной суперструктуре, которая питает студентов, находит новые вопросы и идеи и интегрирует их в более широкую человеческую цивилизацию.
И если вы не особенно заботитесь о беспощадном мире математических доказательств с высокими ставками, не забывайте: ваша область интересов следующая.
«Проблемы, с которыми сталкивается математическое сообщество, похожи на проблемы, с которыми сталкиваются другие научные и творческие профессии, и указывают на проблемы, с которыми может столкнуться все человечество: как убедиться, что, поскольку ИИ меняет способ работы, мы не упускаем из виду то, чего эта работа должна была достичь в первую очередь».
Вопросы и ответы
Что именно Тристан Бакмастер обвинил OpenAI?
Профессор Нью-Йоркского университета заявил, что OpenAI заставила его не доверять сотруднику, работающему в Anthropic над важной математической задачей, и предположил, что компания могла использовать свою работу с Codex для создания собственного доказательства за марафонский уик-энд.
Что случилось со спонсорством OpenAI математического мероприятия в CalTech?
В четверг OpenAI отозвал своё спонсорство математического мероприятия в CalTech после критики со стороны исследователей университета. Это произошло на фоне обвинений в адрес компании, прозвучавших на той же неделе.
Какой документ предшествовал этому открытому письму?
В июне рабочая группа математиков опубликовала Лейденскую декларацию. В ней также рассматривается, как доказательства, созданные большими языковыми моделями, изменят работу математиков, и даются рекомендации для математиков, учреждений и политиков.
