作者:江庆龄 来源:中国科学报 发布时间:2025/7/29 15:25:00
选择字号:
对AI治理挑战,两项AI成果同期发布

 

7月28日,东壁科技数据联合上海财经大学数字经济学院共同构建的全国首个高质量“人工智能治理科技语料”与首个“人工智能多元共治决策支持大模型”在2025世界人工智能大会大模型治理和有序发展生态论坛正式发布。

当前,人工智能(AI)在赋能千行百业、改善民生福祉、促进科技创新方面展现出前所未有的巨大潜力。同时,AI的快速演进也带来了复杂的新挑战与新课题,数据安全、算法偏见、伦理失范、就业冲击、乃至潜在的治理鸿沟等问题日益凸显。注重共同治理,已成为AI有序发展的重要行业共识。

上海浦东新区数字化转型专家委员会委员、上海财经大学数字经济学院院长赵琳介绍,在此背景下,上海财经大学数字经济学院与东壁科技数据开展合作,致力于构建AI治理领域关键科技基础设施,以响应国家号召并应对AI治理挑战。

东壁科技数据创始人、深圳大学特聘教授吴登生表示,东壁科技数据依托其拥有中国自主知识产权的高质量科技文献数据库平台,聚焦AI治理的核心挑战,围绕后门攻击、数据投毒、逆向攻击、黑箱问题等14类AI治理风险,构建了国内首个高质量“人工智能治理科技语料库”。

该科技语料库共采集了AI治理领域500余篇高质量英文期刊论文、1500余篇核心中文期刊论文,整合了来自国务院所属18个部委及16个地级市政府部门发布的AI治理相关法律法规、政策文件、技术标准、典型案例等高质量规范性文本1000余份。

吴登生在论坛上发布“人工智能治理科技语料”。

  ?

上海金融科技产业联盟智慧金融专业委员会委员、上海财经大学数字经济学院副院长肖升生介绍,“人工智能多元共治决策支持大模型”专注于AI治理领域知识问答、案例查询与分析、技术方案咨询、治理方案生成、资源查找五大核心任务。

在国产开源大语言模型基础上,该模型利用构建的2000多条高质量AI治理领域问答对语料进行精细化微调,使其回答能够严格遵循AI治理领域回答范式。此外,模型还接入了基于AI治理科技语料库构建的可持续动态更新数据库,通过检索增强生成技术,能够有效引用权威语料库内容,大幅提升专业回答的准确性和可靠性,显著缓解了“幻觉”风险。

肖升生指出,在构建的1000条AI治理领域测试集中,“人工智能多元共治决策支持大模型”回答准确率达到91.4%,幻觉产生率仅1.5%,表明其在AI治理专业领域已达到较高实用水平。

肖升生在论坛上发布“人工智能多元共治决策支持大模型”。图片均由主办方提供

  ?


 
版权声明:凡本网注明“来源:中国科学报、科学网、科学新闻杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
寻找外星生命的希望正迅速破灭 奇特星系惊现原始恒星
全球正经历前所未有的淡水流失 中国学者研究入选联合国可持续发展案例
>>更多
 
一周新闻排行
 
编辑部推荐博文