随着人工智能(AI)不断渗透各个领域,数学家感受到尤为强烈的压力。他们无奈地看着AI变得极其聪明,其速度之快令人不安。据《科学》报道,日前,16位数学家将这种不安转化为公开的求助与行动呼吁,并发布一份长达11页的《莱顿人工智能与数学宣言》(以下简称《宣言》)。
《宣言》警告称,不受控制的自动化不仅会威胁到数学的实践方式,还危及这一学科所代表的意义。《宣言》同时提出使用AI时应遵循的原则,即要以支持而非削弱数学学科的方式来进行。
多年来,AI研究人员一直将数学作为其模型的验证平台。从本质上讲,数学问题易于评分,并且提供了几乎无限的训练样本池,构建能够证明定理的AI模型被普遍视为迈向更高效推理系统的重要一步。但AI已不再局限于解决简单的技巧性问题。上个月,OpenAI 报告称,其最新的一款通用推理模型独立解决了一个著名的、已有80 年历史的猜想——这只是一系列突破中最新的一项,这些突破正将AI推向数学领域的前沿。
然而,《宣言》指出,数学不仅仅是一种用于得出正确答案的工具。其作者认为,数学是一项极具人文色彩的事业,它建立在创造力、理解力、协作精神及纯粹追求知识的基础之上。而这些价值观往往与推动AI发展的激励机制相冲突。
“科技行业遵循的是商业逻辑,这与数学的价值观背道而驰。”《宣言》合著者、美国哥伦比亚大学的Michael Harris说。
作者们警告称,AI的后果已开始显现。AI生成的论文可能充斥着低质量的内容,使同行评审系统不堪重负,还会让那些不愿依赖AI工具的研究人员处于不利地位。作者们还对将数学家的研究成果用于训练军事和监控目的的AI系统,提出伦理方面的担忧。
这份由数学学科全球权威组织国际数学联盟背书的《宣言》,现正面向全球各界人士和组织征集签名,并将于下个月在美国费城举行的国际数学家大会上进行讨论。与此同时,各国政府也更加关注AI系统的进步发展。美国总统特朗普近日签署了一项行政命令,旨在让联邦官员在AI模型公开发布前获得其最先进版本的优先使用权,部分原因是,各机构能为AI可能带来的任何安全威胁做好准备。
版权声明:凡本网注明“来源:中国科学报、科学网、科学新闻杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。