“科研诚信是科学事业的基石，面对人工智能带来的新形势，我们应更加坚守诚信底线，推动制度、技术与文化的协同治理，营造公开透明、诚实守信、风清气正的科研生态。”中国科学院学部科学道德建设委员会主任胡海岩指出。

9月26日，中国科学院学部科技伦理研讨会在北京举办。会议主题为“人工智能时代的科研诚信”，由中国科学院学部科学道德建设委员会主办。来自全国相关领域的专家学者围绕人工智能时代科研不端行为的界定与特征、审查与监管以及人工智能在科研中的使用边界、伦理红线等方面畅所欲言，为人工智能时代推进科研诚信建设建言献策。

AI给科研诚信带来新挑战

从ChatGPT等大语言模型问世以来，人工智能已广泛应用于知识获取、数据分析、学术写作，极大提升了学习和研究效率，人工智能的介入使得学术活动的主体构成发生了根本性变化。同时，“算法参与”的科研模式也导致了贡献度界定模糊、过程透明度降低、结果不可解释性增加等一系列新问题。

“AI的应用，至少从两个方面加剧了传统的科研不端行为。一是生成式AI速度快，大幅降低了造假成本；二是目前大语言模型生成内容的结构、格式、语法，都呈现出较高水准，检测判断的难度急剧增加。”北京大学教授梅宏指出。

梅宏提到了最近发生的一起“操纵AI审稿”案例。国外某大学计算机科学助理教授与他人合著的一篇论文的页面空白处，有用白色字体写的“仅限正面评价”的字样，肉眼无法看到，用鼠标光标选中后才能“露出真容”。目前，有不少审稿人借助AI进行审稿、给出审稿意见，如果这篇论文由AI进行审稿，AI识别出“仅限正面评价”的指令，便会只给正面审稿意见，误导审稿人。

类似的情况并非个例。南京大学党委书记谭铁牛在报告中也提到了多个操纵AI编造论文的案例，如编造英文词组、虚构参考文献、篡改数据等。

谭铁牛表示，AI至少给科研诚信带来三方面的新挑战，比如难以界定篡改、伪造行为，难以界定AI代写论文、代写代码等行为，同时AI参与同行评议也引发了一系列争议。

保障科研诚信关键在“人”

国家自然科学基金委员会原副主任韩宇在报告中提出，目前已经到了人智与机智共存的时代，我们需要思考，未来该以人为本还是以人机为本？

与会专家的基本共识是，在科研中，AI不应替代科学家进行创造性劳动和学术判断，而应作为辅助性工具。

 “科研诚信问题不一定与AI有明确关系，在AI赋能科学以前，就存在各种各样的造假和不严谨的问题，AI只是将其加速了，或者使这些问题更加隐蔽。”中国科学院自动化研究所研究员张兆翔说，“科研诚信问题与人本身有关，所以应该做好人的事情。”

清华大学社会科学学院教授李正风表示，AI时代放大了传统科研诚信建设中的薄弱之处，传统科研诚信建设中的一大问题就是违规成本太低。

现场还有不少专家明确提出，要明确AI使用边界和伦理红线，比如科研数据的生成、科研成果的属性和引用，必须是由人来负责，科研中的价值判断、实验设计和结果解读不能完全由AI来替代完成，科研共同体急需建立统一的AI使用规范和标注机制。

呼吁出台应对AIGC的国家政策

2023年9月，中国科学技术信息研究所联合爱思唯尔、施普林格·自然、约翰威立国际出版集团三家国际出版集团发布《学术出版中AIGC使用边界指南》（以下简称《指南》），旨在应对人工智能生成内容（AIGC）在学术领域的快速普及带来的挑战，防止学术不端，加强诚信治理。2025年的最新版《指南》正在筹备发布中。

与会专家提到，《指南》目前仅作为行业推荐性标准，而非国家强制性标准，这是因为，当前AIGC还处于迅猛发展期，成为强制性标准后，可能会对整个科研生态甚至国际科研的生态带来较大影响，目前的时机还不合适。

北京航空航天大学人文与社会科学高等研究院副教授和鸿鹏在报告中指出，目前国内没有应对AIGC的整体顶层设计，高校和科研机构中也缺乏相关的规范。同时，各方对于AIGC的使用边界还存在争议。

“我们认为，出台相关的国家政策非常必要，应该按照从无到有、先有后优的思路，明确在科研中使用AIGC的基本态度、指导原则、责任主体等，同时对已有政策做出调整。到了研究机构层面，就可以依据上位政策出台具体的规范。”和鸿鹏说。