■本报记者 王一鸣

“科技伦理全球治理面临严峻挑战，但目前缺乏一个有效的国际治理机制来协调各国在科技伦理上的共同行动。”在近日于上海举行的中国科学院学部2024年科技伦理研讨会上，中国科学院院士、中国科学院学部科学道德建设委员会主任胡海岩谈道。本次会议由中国科学院学部科学道德建设委员会主办，中外70余位专家学者共话人工智能（AI）伦理和生命伦理两大主题。

“我们召开此次国际科技伦理研讨会，目的在于搭建一个多元包容的国际对话平台，通过会聚来自不同文化背景、行业领域、学科专业的优秀学者和政策专家，就科技伦理的全球治理议题开展深入对话，有助于在国际层面建立对科技发展和伦理道德的共同理解和行动，保障科技进步服务于全人类的福祉。”胡海岩说。

AI的“跨界”融合

近期公布的2024年诺贝尔物理学奖和化学奖花落几位AI领域的“大佬”，以表彰他们在人工神经网络、机器学习领域的基础性发现和发明，以及利用计算机进行蛋白质设计、在蛋白质结构预测方面的贡献。

AI与生命科学及其他多学科融合也充分体现在本次研讨会中。AI时代的生命伦理成为与会专家学者的热门议题。

“AI时代，智能与生物的交叉融合正在深刻改变我们对生命、意识的认知。”中国科学院院士高福从技术哲学的角度出发，以脑机接口、人机协同、虚拟现实与增强现实技术等为例，呼吁重新思考具有自主意识的AI是否应该被视为“生命”、脑机接口增强后的人类是否还是“人类”，以及人机协同逐渐普遍应用于医疗诊断和治疗领域的情况下责任该如何分配。

中国社会科学院哲学研究所研究员赵汀阳从伦理学角度提出：“伦理学研究的是人与人的关系，不能跨物种推广。AI本身是安全的，人类才是问题所在。如果人类不试图将自己的价值观强加给AI，未来AI会是安全的。”

美国纽约大学教授廖马修提出了一个以实质性人权理论为基础的AI伦理框架，“必须确保AI研究人员和组织在开发相关技术时，严格遵循恰当的伦理框架和准则”。英国爱丁堡大学教授罗宾·威廉姆斯的报告与之形成补充，他强调“预防”还不够，“需要对AI工具进行持续、实时的后市场审查”。

制定红线、黄线、绿线分区管理体系

新兴科技的医疗实践与人类生命健康直接相关，伦理问题亟待解决。本次研讨会上，专家学者们引用了许多影响广泛、深刻的生物医疗科技前沿案例，结合实际讨论如何把控AI、生命科学等技术的治理尺度。

一些学者指出，前沿科技实践带来更加错综复杂的伦理问题，需要更多关注和研判。还有一些专家学者结合现有案例提出了多样化的解决方案。

威廉姆斯提到，可以有选择性地使用可靠模型，从而建立起一种负责任的AI应用的临床实践。伦理与责任问题需要与AI的实施、应用和成果的独特性结合起来。

针对脑机接口伦理治理问题，北京大学医学人文学院长聘副教授陈海丹提出了自己的建议，即制定红线、黄线、绿线的分区管理体系。红线表示禁止的高风险活动；黄线作为缓冲区，允许对不确定的风险进行动态调整；绿线则表示批准的活动。这种系统类似于交通信号灯，有助于在不确定性高的技术领域平衡创新与监管。

“阿西洛马精神”在AI时代的重构

目前，AI叙事已经形成了科学化、科幻化、诗意化3种明显形式。

复旦大学科技伦理与人类未来研究院教授杨庆峰在会上阐释了这3种叙事：科学化叙事强调AI以神经科学、计算机科学等科学研究为基础；科幻化叙事强调要以科幻小说或电影为基础，涉及超级智能与宇宙、人类命运的关系问题；诗意化叙事强调对AI的理解以文学想象为基础，并形成后人类形象。

本次研讨会上，科学化叙事的讨论占据主流，科幻化叙事、诗意化叙事也都有涉及，让研讨会有了更多人文关切。

武汉大学计算机学院教授蔡恒进指出，AI作为生命个体的延伸和分身，能大幅增强人类个体能力，在元宇宙交互中有望形成超级智能。基于这种新的通用人工智能（AGI）实现路径，目前的主流中心化AI大模型对人类构成的生存论风险会得到有效化解。

美国莱斯大学副教授路易斯·坎波斯则带大家重温了“阿西洛马精神”。50多年前的夏天，一群分子生物学家联名向国际社会致信，就重组DNA技术中某些新颖方法可能带来的潜在风险发出警告。信中，他们基于伦理与安全的考量，呼吁自愿推迟部分实验，这封信因此被誉为“现代科学研究史上首份自我约束的法令”。同时，信中也倡导对这些问题进行更为深入的评估。这一倡议最终促成了1975年2月召开的“阿西洛马会议”。

2017年1月，近千名AI和机器人领域的专家，同样相约阿西洛马，联合签署了阿西洛马AI23条原则，呼吁全世界在发展AI的同时严格遵守这些原则，共同保障人类未来的伦理、利益和安全。

与会专家认为，如今，重温科技新时代的“阿西洛马精神”，重构以人为本、智能向善的伦理初心，尤为重要。

“我们希望生活在一个什么样的世界中？对于这一问题的答案应贯穿于人们对人类基因组编辑等科技创新的回应之中。”加拿大皇家学会院士弗朗索瓦丝·贝利斯说。