跳到正文
The Verge · AI· Robert Hart·· 2 小时前同事件AI 评分74

研究者不满 OpenAI 对数学、计算机科学与物理突破的受限发布

Researchers are getting tired of OpenAI gatekeeping its breakthroughs

AI 导读

OpenAI 宣布在数学、计算机科学和物理领域取得突破,但三项成果采用不同发布策略:数学结果直接放出 AI 输出,计算机科学结果将另组外部团队解释,物理结果暂不公开。研究者对 OpenAI 挑选专家先行查看的做法表示不满,认为应让所有人同时获得材料以便公开验证;数学与 AI 咨询组 AGMAI 也建议 AI 公司不要采用这种先给少数人看的做法。

同一件事,精选收录的是《OpenAI 宣布 AI 在数学、算法与物理领域取得三项成果》

正文 · AI 翻译

周一,OpenAI 宣布了在数学、计算机科学和物理学领域的令人瞩目的突破,并称公司正在采用一种不断演进的方式来传播其研究成果。然而,尽管该公司显然做出了方向上的调整,接受The Verge采访的研究人员却对这家公司的种种做派越来越感到厌倦。

过去几个月,OpenAI 与数学家之间的关系颇为动荡,后者至今仍在应对十月初被随意丢给他们的数百篇预印本论文。这一次,OpenAI 表示正与专家“牧羊人”合作,以决定如何最好地分享其最新突破。

这三项成果都涉及数学、计算机科学和物理学中一些最具影响力的未解难题。其中一些延续了 OpenAI 此前的工作,另一些则开辟了新领域。根据 OpenAI“牧羊人”的建议,每项成果采用了不同的发布策略。对于数学成果,OpenAI 发布了 AI 生成的输出,“让研究人员自由组织自己的力量来解释这一结果”。对于计算机科学发现,OpenAI 还将组建一个外部研究小组“来解释这一结果”。而物理学成果则完全没有发布,OpenAI 表示将“听从”外部专家小组关于如何发布这些材料的意见。

  • 数学成果看起来引人注目。它声称解决了所有维度上的挂谷猜想。粗略地说,这个问题问的是:要在每个方向上旋转一根针或一支铅笔,需要多小的空间。三维版本的证明是纽约大学数学家王虹今年早些时候获颁著名的菲尔兹奖的成就之一。布朗大学数学教授 Brendan Hassett 告诉The Verge,OpenAI 的说法“看起来有充分支持”,不过他强调自己尚未检查 Lean 形式化——一种通过计算验证结果的手段。
  • 物理学成果探索的是标准模型,这是物理学中最成功、最完整的理论框架。它涉及量子色动力学,该理论研究强核力——自然界四种基本力之一(与引力、电磁力和弱核力并列)——及其与杨-米尔斯理论的关系,后者是现代粒子物理学的基石。杨-米尔斯理论也是数学界七个千禧年大奖难题之一的核心,不过 OpenAI 的工作并未涉及尚未解决的“质量间隙”。
  • 最后一项成果声称否证了指数时间假说,这是理论计算机科学中一个被广泛接受的假设,即某些问题无法以显著快于暴力方法的速度求解。它与 P 对 NP 问题密切相关,后者是另一个千禧年大奖难题,也是该领域最大的未解问题之一,问的是那些解可以被轻易验证的问题是否也同样容易求解。

鉴于披露程度各不相同,且评估此类工作十分复杂,研究人员很难完全判断该公司的发现。即便拥有全部信息,这样做也需要时间。但接受The Verge采访的专家表示,有充分理由认真对待这些结果,他们分别将其描述为“巨大”、“重大突破”和“意义重大”。

“只有少数几位杰出科学家能首先看到它们,这完全说不通。”

但研究人员对这项科学的兴奋之情,被对 OpenAI 行为的恼怒所冲淡——在经历了他们所称的长达数月、令人疲惫不堪的 AI 生成成果轰炸之后,这是一种似曾相识的感觉。许多人渴望更广泛的学界能着手开展审视该 AI 实验室成果的艰巨工作,并质疑 OpenAI 为何要挑选专家来监督这一过程,从而设置额外障碍。

The Verge 采访的大多数专家都欢迎 OpenAI 咨询外部研究人员的决定,但认为公开宣布结果也应意味着让任何人都能审视这项工作。“我对他们像今天这样公布问题没有意见,”高等研究院研究员 Constantin Kogler 说,他欢迎相比此前发布的数百项结果、这次三项结果这一更易处理的批次。但他质疑限制只有 OpenAI 挑选的专家才能访问的决定。“只有少数几位杰出科学家能首先看到它们,这完全说不通,”他说。

“他们亲自挑选这个小组,这简直是一场灾难,”德克萨斯大学奥斯汀分校物理学教授 Andreas Karch 对 The Verge 说。“大型实验室本就拥有足够的权力。他们不应该挑选赢家和输家。”Karch 最初建议通过“竞争性流程”选拔研究人员,不过他承认这很可能产生一个类似的群体,他称其为“一流的”。后来,他质疑 OpenAI 为什么在任命其专家团队之外,“不能现在就公布证明”。“这将在展示他们关心让结果有意义且可理解的同时,实现访问的民主化,”他说。

“我的感觉是,无论采用哪种方式,总会有人不满。”

这正是数学与人工智能咨询小组(AGMAI)——OpenAI 此前承诺就如何分享其成果向其咨询的专家小组——在公告发布仅一天前警告要避免的那种把关行为。“我们建议 AI 公司不要采用这种做法,”他们说,认为挑选特定人群优先获得输出是“不必要的”,借用了被选研究人员的声誉,并存在访问不平等、选择有偏见和延迟等风险。相反,他们建议 AI 实验室在学术存储库上发布输出,附上形式化证明和有关问题如何被选择的信息,并为致力于理解结果的人提供资金和其他支持。

在最新结果发布后,AGMAI 敦促 OpenAI“毫不拖延地公开其宣布的”物理学结果背后的自然语言和 Lean 输出:

“虽然这些是物理学中的核心问题,但它们也是数学中的重要问题。量子杨-米尔斯理论的存在性是千禧年大奖难题的一部分,而四维相互作用量子场论的构造数十年来一直是数学物理学的目标。”

我们对OpenAI邀请来领导这项工作的科学家深表敬意。但正如我们在近期声明中所解释的,理解应当在公开环境中发展,让每个人都获得同等的机会。OpenAI曾表示,他们推迟发布是为了等Lean形式化完成。按他们自己的说法,这项工作现在已经完成,因此没有任何科学理由继续推迟发布。”

哈塞特表示,公开提供这些发现还可能促进更好的科学研究,并鼓励人们更广泛地采用AI等新工具。“让世界各地的许多团队来研究这些结果,有助于那些希望使用新工具的人迅速采用它们,”他说。

“基础性成果正以极快的速度被解决,而无需人类贡献……这些论文难以阅读和验证。”

要找到一种与OpenAI日益涉足领域的研究人员沟通、并让所有人都满意的方式,或许是不可能的。该公司表示正在尝试不同方法,并承认每种方法都有取舍。“我的感觉是,无论采用哪种方式,总会有人不满,”斯坦福大学数学家Jared Duker Lichtman说。“所以问题只在于找到最不令人反感的选项。”

佐治亚理工学院数学教授Xiaoyu He认为,问题比OpenAI选择如何公布其发现更为深层。“这些结果非常令人印象深刻,”他说,“但我认为,他们是在做样子,试图在发布结果的方式上显得负责任和深思熟虑,却无法改变主要问题:基础性成果正以极快的速度被解决,而无需人类贡献,而且这些论文难以阅读和验证。”

关注话题和作者,以便在个性化主页信息流中看到更多类似内容,并接收邮件更新。

  • Robert Hart

来源:The Verge · AI · theverge.com