九位数学家,一个独立席位

当地时间 9 月 21 日,OpenAI 宣布与一批数学家合作——后者已经组成数学与人工智能顾问组(Advisory Group on Mathematics and Artificial Intelligence,AGMAI),设在普林斯顿高等研究院,独立于 OpenAI 运作。九位初始成员分别来自巴黎高等师范学院、普林斯顿高等研究院、法兰西公学院与剑桥、EPFL 与帝国理工、伯克利、牛津、斯坦福与哈佛,其中包括多位菲尔兹奖得主与麦克阿瑟奖得主。

这个安排的分量在于其独立性条款:成员不从 OpenAI 获取报酬;有权主动提供 OpenAI 并未请求的建议;可以对 OpenAI 在数学领域的影响发表公开评论,并将建议公之于众;顾问组可自行决定并变更其成员构成。OpenAI 官方明确,顾问组不负责就其内部数学研究进展的节奏提供建议,在任何公司也不握有决策权。

AGMAI:九位成员 · 普林斯顿高等研究院 hosting · 独立于 OpenAI 运作能做评估新数学成果并协调发布 · 维护学术与专业标准能做主动提出 OpenAI 未请求的建议 · 公开评论与公开建议能做自主决定并变更成员构成 · 探索工具支持数学研究不做不为 OpenAI 内部数学研究进展的节奏把关不做在任何 AI 公司握有决策权(责任在企业自身)成员不从 OpenAI 取酬 · 背景:内部模型宣称解决 100 余个长期开放问题
AGMAI 顾问组的权责边界

为什么是现在:一场争议后的制度补丁

时间线要往前倒。OpenAI 在 8 月 28 日开始训练一个新的内部模型,其后宣称该模型已解决一百多个长期悬而未决的开放问题,覆盖数学的大多数领域——此前还有关于 Navier-Stokes 方程这一千禧年大奖问题的解决宣称。公司称模型进展之快令其自己的数学家也感到意外,内部因此开始讨论如何向数学社区通报。

社区一端的情绪并不平静。此前的公开信《A Severe Misalignment of AI in Mathematics》获得 25 位菲尔兹奖得主联署,批评把解开开放问题当作 AI 评测基准的做法,认为高调发布威胁着传统学术规范与研究者的智力成果归属。顾问组的由来也有细节:据该组织自述,OpenAI 先接洽了部分成员商议设立外部顾问委员会,经过讨论,数学家们转而成立一个独立团体,再邀请其他成员加入。

社区反应:有用的起点,但存疑

成员之一、菲尔兹奖得主 Martin Hairer 在 9 月 22 日的 Proofs and Prompts 博客文章中说明:顾问组真正独立、成员无薪、由 IAS 提供技术支持,除保密义务外没有限制性言论协议;他把首要任务定为「就如何协调发布 OpenAI 所称由内部模型产出的大量重要数学成果提供建议」,并提醒学界不应以回避态度对待 AI 日益增长的影响。

质疑同样密集。帝国理工学院的 Kevin Buzzard 追问:为什么需要一个精英团体来转达社区早已说过的话;ETH 苏黎世的 Simon Machado 称其成立过程「笼罩在神秘之中」;也有研究者直言这是「象牙塔」,怀疑九个人的名单能否代表全球数学社区的多元利益。The Verge 在 9 月 23 日的报道把这些疑问摆上台面:影响力、遴选过程与代表性,是判断这个顾问组能否起作用的三个问号。

冷静看:独立性与话语权是两回事

把这件事放进更大的坐标系:前沿实验室把外部监督制度化,正在成为一种趋势——从安全承诺框架到第三方评估,再到这次把学术话语权部分让渡给独立学者。AGMAI 的制度设计(无薪、可公开唱反调、自主定成员)在同类安排里算是给了真章,比纯咨询委员会的约束力强。

但独立性与影响力是两回事。顾问组的建议没有强制力,最终是否照单全收取决于 OpenAI 自己;百余个宣称已被解决的问题何时以何种形式发布、署名与优先级争议如何处理,都是马上要面对的实操难题。值得后续追踪三个观察点:一批结果的发布节奏与学术界的接受度;其他前沿实验室是否会跟进设立类似的学科顾问机制;以及这套「外部监督制度化」能不能从数学延伸到更多基础学科。