AI与伦理

 

人工智能（AI）的飞速迭代，正深刻重塑医疗行业的发展形态。

2025年8月，国务院印发《关于深入实施“人工智能+”行动的意见》，提出有序推动AI在辅助诊疗、健康管理等场景的应用。2025年11月，国家卫生健康委等5部门联合发布《关于促进和规范“人工智能+医疗卫生”应用发展的实施意见》。

我国AI医疗正进入政策驱动的快速发展期。然而，技术狂飙突进的背后，数据安全、算法公平、权责界定、人文缺失等伦理难题相伴而生。

为推动我国医学伦理治理体系现代化建设，近日，中华医学会医学伦理学分会2026年学术年会（第二十五届学术年会）在安徽省合肥市召开。会议邀请科技伦理、医学伦理等领域专家、学者，围绕相关主题，分享国际、国内最新研究成果和前沿动态。

“伦理学不应被视为技术发展的‘刹车器’，而应是‘导航器’。”在接受本报采访时，广州医科大学人文社会科学研究所所长刘俊荣指出，只有将伦理真正融入技术研发和迭代的过程中，才能更好地服务于“健康中国”建设和临床高质量发展。

当前AI医疗风险呈怎样的分布态势？从技术内部着手防范AI风险是否可行？为探寻答案，本报采访多位专家，整理成文，以飨读者。

北京大学博雅特聘教授、北京大学医学史研究中心主任张大庆：

AI医疗的风险治理

当下，人工智能（AI）医疗应用已经深入临床的方方面面。公众在积极拥抱AI技术带来的便利与创新的同时，对其潜在的伦理风险、数据安全隐患以及监管体系的完善性诉求也在增长，形成了一种“乐中存忧”的社会心态。

从我国的情况来看，数据显示，中国职场对AI的利用率位居全球前列；但公众对于数据保护的信任度却呈现下降趋势，揭示了技术快速落地与社会信任建设之间的现实矛盾。

这种“技术乐观主义与监管诉求呈正相关”的趋势，说明在广泛使用过程中，大家发现了更多问题，从而提高了治理需求。这恰好印证了贝克（Ulrich Beck）的“风险社会”理论：高新技术的社会效益与负面效应同步呈指数级增长，两者是无法割裂的共生关系。我们不可能只要收益而完全规避风险，必须建立起与之相适应的风险文化。

研究显示，全球公众对于AI的态度呈现出明显的地域文化差异。新兴经济体普遍持乐观态度，期待技术赋能带来的红利；而发达经济体则更多表现出审慎观望态度。这种差异并非仅由技术接触度决定，而是与各国的监管历史、媒体叙事等密切相关。

AI医疗风险也并非均匀分布，而是与既有的社会不平等高度重叠。如果缺乏包容性思维，AI不仅无法缩小健康差距，反而可能通过技术壁垒固化、放大结构性不平等。例如，年轻、高学历、城市群体对AI风险的敏感度和监管诉求更高；而老年群体及数字弱势群体，既难以享受AI医疗的技术红利，又缺乏风险辨识能力，甚至在治理规则制定和监督问责环节中被结构性地排除在外。

风险问题与信任问题是密切关联的。信任度越高，主观风险感知就越低。医务人员对AI建立信任涉及四个维度：第一，技术认知，即技术性能指标是否真正超越人类专家并符合临床思维；第二，人际交互效用，即AI能否无缝嵌入临床工作流并为医生减负；第三，法律与伦理责任，即当AI辅助诊断出现偏差时，关于责任由谁承担是否有明确的界定；第四，机构治理，即医院是否建立了针对AI应用的容错机制和风险分担机制。

相关调查显示，目前中国医务人员对医疗AI的应用呈现出“高认知、高期待、低应用”的特点。这说明问题不在于认知，而在于技术成熟度、临床工作流程的整合以及风险控制等尚未真正落地。

AI作为医患之间的中介，可以通过影响医患沟通、知识信息储备和环境条件三个要素，深度重塑患者对医生的信任，但也可能引发隐私安全、关怀缺失、制度不透明等风险。

总体而言，AI医疗的风险可归纳为三类：一是技术性风险；二是社会分配性风险；三是道德与制度风险。这三类风险相互交织、缠绕，因此在设计和应对时必须进行整合性考虑，而非单一处理。

AI医疗的风险治理本质上是一个社会问题，它关乎我们每一个人，并决定了未来希望建构一个具有何种人文温度与科技理性的健康照护社会。

广州医科大学人文社会科学研究所所长刘俊荣：

伦理学是技术发展的“导航器”

当前，虽然国家已经明确“伦理先行”，但在实践中，如何更好地推动其发展落地仍是难题。在科研启动前的伦理审查过程中，必须确保审查人员懂得伦理审查的基本理论及相关的专业知识，具有伦理审查的胜任力，这是对伦理审查委员会委员素质的基本要求。

当前各机构伦理审查委员会的审查能力和水平参差不齐，委员不仅需要具备伦理意识，还要具备专业素养。面对脑机接口、干细胞等生物医学新技术，并非每个岗位的人员都熟悉所有领域。因此，委员会的人员结构中必须包含相关专家；若没有相应人员，至少要聘请独立顾问，以确保审查的科学性和伦理性。

“伦理先行”不能仅靠审查这一个环节，最终的落地要靠研究者去执行。在实际操作中，研究者应严格按照伦理审查的要求、方案以及知情同意书去执行，而不能只是形式上规范。此外，研发人员应力争做到“价值对齐”，即技术研发的目标和目的必须与人类的价值目标和目的保持一致。如果技术目的仅是为了追求效益，而未将患者权益放在第一位，就会出现问题。因此，研发人员、临床研究人员和伦理委员会需要共同发力。

伦理审查“互认”的核心目的是在确保审查质量的前提下，提高审查效率。但“互认”不等于“不审查”。伦理审查与血液化验等标准化检查不同，它涉及方案能否在具体环境中落地。不同医院（即使同为三级医院）的技术水平和风险把控能力参差不齐，同一个方案在头部医院能把控好风险并切实维护好患者权益，换一家医院未必能保护好受试者权益。

我们希望在主审医院审查之后，其他医院不要再进行重复的会议审查，可以先进行简易审查。例如，由两名委员通过在线或函审的形式，重点把握方案和知情同意书中的伦理问题。对于常规风险不大的多中心观察性研究可以尝试直接认可，但对于风险较大的侵入性生物医学新技术，参与研究机构至少要进行简易审查。目前各地推进互认非常踊跃，但首先要明确这些原则问题。

在AI临床应用中，规避隐私风险需要建立完善的机制。伦理审查应关注信息收集是否为研究所必需，遵循“最小化原则”。在技术上，要区分“去标识化”与“匿名化”：常规去标识化后的部分数据仍可能通过大数据关联复原身份，而真正的“匿名化”是指不可复原。除特殊研究外，一般研究应采取匿名化措施。这既需要制度安排，也需要技术手段，更需要医护及研究人员在数据使用中落实保护责任。

伦理学不应被视为技术发展的“刹车器”，而应是“导航器”。它需要与生物学、临床医学等多学科深度融合，不能凌驾于具体科学之上。只有将伦理真正融入技术研发和迭代的过程中，才能更好地服务于健康中国建设和临床高质量发展。

湖南师范大学人工智能伦理研究中心主任李伦：

用伦理工程学方法防范AI风险

过去我们谈及数字风险，多认为问题来自人为操作或制度漏洞；而当下人工智能（AI）技术的发展呈现出一种新的风险特征，即“技源性”。这意味着风险源于技术本身的内在属性，而非人类主观上的不当设计或使用。

例如，“算法黑箱”源于技术的内在缺陷或不成熟，属于“技源性”风险；而“算法黑幕”则是人根据特定目的进行的不当设计，比如“大数据杀熟”，技术本身不存在缺陷。

面对技术内生风险，我提出“伦理工程学”治理方案—— 一种“以内嵌伦理框架的技术方法防范技术伦理风险”的方案。我在2017年提出“给AI一颗良芯”的口号，追求的便是从技术内生属性出发进行治理。2024年，我进一步明确提出“伦理工程学”这条“技术-伦理”互嵌式治理路径。

伦理工程学不是纯粹的工程学，也不是纯粹的伦理学，而是“技术-伦理”互嵌式的方法。它旨在破解伦理学与工程学长期二元割裂的困境：伦理学倾向于宏观原则建构，缺乏实现路径，工程学则关注技术能力迭代，导致“技术先行，伦理善后”。而伦理工程学强调“伦理先行”，事先既要有伦理框架，又要有技术落地路径。

伦理工程学的实施分为两步。第一步是伦理框架的设计。根据技术系统的“技术-伦理”目标（如自动驾驶与手术机器人的目标不同）提出适宜的框架。这需要伦理学家主导，并与技术专家等展开合作。第二步是伦理框架的工程化嵌入。通过技术方法将伦理框架嵌入技术系统，使技术系统成为道德行动者，使其行为后果具有道德意义，或成为道德调节者，规范人的行为。

伦理工程学的思想源远流长，可追溯至中国传统儒家的“藏礼于器”。器物是礼制的物化形态，例如宫殿、龙袍龙椅的设计都贯彻三纲五常。这些器物设计完成后，反过来又规范人的行为，使人遵守礼制。这其实是典型的伦理工程学方法。

AI与伦理工程学具有极强的亲和性：首先，AI风险多源于技术内生属性；其次，AI具有“自为性”，规则预设性强，通过代码和算法设计很容易将伦理框架嵌入。此外，AI算法迭代周期短，为纠正和预防伦理风险提供了及时性方案。目前，我国及欧盟都高度重视以伦理工程学方法防范AI风险。

Anthropic公司在2023年引入了“宪法AI（Constitutional AI）”方案，并在2026年1月将其升级为“Claude宪法”。“宪法AI”的过程分为两步：一是伦理框架的设计，即制定一套“宪法”——16条自然语言规则（如“不鼓励非法活动”“尊重平等”）；二是伦理框架的工程化嵌入，通过监督学习（SL）和基于AI反馈的强化学习（RLAIF），让AI根据“宪法”自我演化。

Claude宪法的升级主要表现在伦理框架的设计，新宪法包含具有优先级的四大原则、核心德性要求（如诚实、保护自主、透明等）以及硬性约束红线（如绝不能生成儿童性虐待材料等）。Claude宪法的升级体现了从“机械执行”到“理解意图”、从“规则导向”到“推理导向”的转变。它不仅要求AI背诵规则，更强调通过详细的道理说明培养AI的价值观和独立判断能力，使其在面对新案例时具有泛化处理能力。不过，当前核心的难题在于“可验证性”的提高。Anthropic公司坦言目前的训练方法难以保证模型百分百遵循宪法，需要配合其他措施共同防范AI风险。

伦理工程学的落地具有多样性，这主要体现在伦理框架设计和伦理框架工程化方案的多样性。前者与技术系统的“技术-伦理”目标的多样性相关，也与技术系统所处文化背景的多样性相关；后者与技术的发展水平以及技术路径的选择相关。这种多样性表明伦理工程学的落地具有复杂性，需要技术界和伦理学界等多学科多领域的深度合作。

中南大学湘雅医院党委书记张欣：

AI赋能医疗决策必须坚持“以人为本”

医疗决策的本质，在于综合研判患者信息、循证医学证据、诊疗指南及患者个人价值观，进而制定科学合理的诊断与治疗方案。随着人工智能（AI）加速融入临床实践，传统“医生-患者”二元决策模式逐步转向“医生-患者-AI”协同参与的新范式。在此过程中，必须明确AI的辅助工具定位，不能越位成为决策主体。

国家有关政策及医疗机构AI应用与治理专家共识均明确指出，医疗AI应坚持辅助定位，恪守“人机协同，以人为主”的原则。尽管AI有助于提升诊断效率、优化医疗资源配置、改善患者就医体验、提高医院管理效能，但最终诊疗决策权与医疗责任仍须由医生承担。

当前我国发展医疗AI具备现实必要性。一方面，医疗服务需求持续攀升，优质医疗资源总量不足且分布不均，医务人员工作负荷逐步加重；另一方面，AI已在临床诊疗、患者服务、医院管理及科研创新等领域展现出显著的应用价值。

医疗AI带来效率提升的同时，也伴随着新的伦理风险。当前大模型高度依赖海量数据训练，这对医疗数据质量提出越来越高的要求。如果数据本身存在偏差，再通过模型训练和算法放大，可能形成新的诊疗偏差。与此同时，算法“黑箱”、模型可解释性不足、算法依赖、情感剥离与医患关系物化，以及医疗安全与医疗责任归属等问题，都成为医疗AI推广过程中必须面对的重要挑战。

随着患者越来越多地借助AI获取医疗信息，医生也必须主动学习和了解AI技术，在充分参考AI分析结果的基础上，结合自身临床经验和患者个体差异作出最终判断。未来的医疗决策，既不会是单纯依赖医生诊疗的传统模式，也不应演变为由AI主导的决策模式，而应构建一种医生与患者共同参与、AI辅助支持的新型共享决策模式。

推动医疗AI健康发展，应重点遵循以下原则：一是进一步提升医疗数据的质量；二是提升模型透明度与可解释性，确保决策逻辑清晰可溯；三是保障公平可及与算法包容，防止技术加剧健康不平等；四是充分尊重患者自主权、知情同意权与决策参与权；五是坚守医学人文底色，让AI兼具技术效能与人文温度。

置身于AI时代，医生不仅要精进医学专业能力，更要提升AI素养、强化伦理意识，坚守职业道德底线，切实履行在医疗活动中的主体责任。唯有如此，AI才能真正成为提升医疗质量与患者福祉的有力工具，而非取代医生价值的决策主体。

中国科学技术大学附属第一医院科研处处长刘尧：

边界把握的核心是“人机协同、专家主导”

目前，AI智能体可承担材料信息提取、文件完整性和一致性核对、格式审查，以及研究方案风险点和知情同意书要点提示等基础工作，能够覆盖伦理初审中大部分常见问题。

过去，伦理审查往往耗费大量时间在材料核对和反复沟通上，文件多、版本多，人工审核容易遗漏。AI可以把这些基础核查工作前置，让研究者在提交前先自查、修改，把专家从重复性的工作中释放出来，让其有更多精力投入复杂的伦理判断，从而提高审查效率。

例如，一项临床研究提交伦理审查时，通常包括研究方案、知情同意书、招募材料等多份文件。AI可以自动核对这些材料中的项目名称、研究负责人、本中心计划入组例数、研究周期等关键信息是否一致，同时提示知情同意书是否遗漏了一些必要内容。

如果发现研究方案中写的是“计划招募20例”，而知情同意书中写着“本中心计划入组200例”，或者知情同意书中没有提到研究相关的不良反应、替代治疗方案等，AI就可以提前标记出来，并提示研究者修改。这样，研究者在正式提交伦理审查前就能完成自查，避免因这类基础问题被反复退回修改而浪费不必要的时间，从而大大缩短整个项目的审查周期。

像研究风险与受益是否平衡、研究参与者权益是否得到充分保护，特别是涉及特殊人群时保护措施是否到位，都不能仅靠规则比对得出结论。项目是否批准、是否需要修改或暂停，以及相应责任承担，仍需由伦理委员会专家充分讨论后决定。

伦理审查并不是初始审查通过后就结束，在临床试验实施过程中，还需要开展持续的跟踪审查、安全性监督甚至实地访视，关注研究是否按获批的方案实施、知情同意是否规范、研究参与者权益是否切实得到保障，以及严重不良事件、方案偏离等问题是否得到及时处理……这些都需要伦理委员审查后作出专业的判断。

我认为，在现阶段以及未来相当长一段时期内，AI更适合定位为伦理委员会的“助手”，而不宜成为独立的“审查者”。因为伦理审查并不只是核对材料是否齐全、程序是否合规，更重要的是要结合具体研究情境，对受试者权益、风险与获益、研究的社会价值等作出综合判断。这既需要专业经验，也需要明确的责任主体，不能简单交给机器。

因此，边界把握的核心是“人机协同、专家主导”。同时，系统应对审查过程全程留痕，形成可追溯、可复盘、可审计的证据链。这样既发挥了技术提效作用，也守住了伦理审查的专业性和责任底线。

要解决AI伦理审查里的偏见、偏差问题，构建真正可信的体系，核心就是抓三件事：数据不偏、算法透明、人工兜底。

未来不是用AI替代伦理委员会，而是推动伦理审查从更多依赖个人经验，逐步走向规则更清晰、流程更规范、过程更透明的人机协同模式。随着规则库、案例库和知识库不断积累、不断学习，AI还可以为多中心研究的伦理审查协同和区域医疗联盟的伦理互认提供支持。

但要实现这一目标，不能只靠一套系统。技术上，要继续解决多源异构医疗数据整合、知识实时更新、模型可解释性和多智能体协同等问题；制度上，要完善数据确权、授权、脱敏、审计和责任追溯机制；管理上，要明确AI能做什么、不能做什么，建立人工复核、持续评估、质量控制和异常处置机制。归根到底，AI可以帮助提高效率、减少疏漏，但伦理审查工作涉及人的价值判断和最终责任，始终应当由人来承担。

中国科学技术大学附属第一医院主任药师沈爱宗：

AI赋能药师而非替代药师

随着人工智能（AI）逐步应用于药品供应保障、处方审核、临床药学服务、合理用药、药物警戒以及临床研究等领域，医疗服务的效率和精准性不断提升的同时，也带来了数据安全、算法可靠性、责任界定等新的伦理挑战。

医疗工作的对象始终是人，任何技术创新都必须以保障患者权益和医疗安全为前提。因此，坚持伦理先行，不是限制技术发展，而是为AI安全、规范、可持续应用提供重要保障。

当前，AI在医院药学领域展现出巨大价值。近年来，医院药学服务逐步由传统人工药学服务、智能设备辅助药学服务向全程化智慧药学服务发展。

智慧药学依托AI、大数据、云计算、物联网等技术，为药品供应保障、药学技术服务和药事管理三大核心工作提供全过程的信息化支撑，实现药品全生命周期管理。

在实际工作中，AI已广泛应用于处方审核、药物相互作用识别、超剂量预警、抗菌药物管理、药物不良反应监测等多个场景，不仅提高了药学服务效率，也有效减少了人为差错。与此同时，结合电子病历、检验检查、药学数据库等多源数据，AI还能为老年患者、慢病患者以及多重用药患者提供更加精准的个体化用药支持，推动精准药学不断发展。

需要强调的是，AI始终是药师的助手，而不是替代者。它赋能的是药学服务能力，而非取代药师的专业价值。

药师不仅承担药品供应保障、处方审核、药物治疗管理等工作，更重要的是参与临床决策、开展患者用药教育和全过程药学服务。

未来，随着智慧药学不断发展，AI应承担越来越多机械性、重复性的工作，让药师能够将更多精力投入更加复杂、更具专业价值、更有温度的临床药学服务，真正实现向以患者为中心的药学服务模式的转型。

推动智慧药学高质量发展，不仅在于技术创新，更在于完善治理体系。医疗机构应建立覆盖AI全生命周期的管理体系，包括准入评估、伦理审查、质量评价、持续监测和风险预警等机制，确保AI产品在进入临床前经过充分验证，在应用过程中持续获得动态评价。

同时，应加强药师、医务人员、伦理委员等专业队伍建设，不断提升数字药学素养、风险识别能力和伦理判断能力。只有制度规范，做到风险可控、责任明确并持续改进，充分发挥AI辅助的作用，才能更好地保障患者用药安全，提升药学服务质量，为人民群众提供更加精准、高效、安全且富有温度的药学服务。

首都医科大学附属北京天坛医院党委书记岳小林：

AI赋能医学创新，伦理治理须先行

人工智能（AI）正在驱动全球药物研发范式向以人为中心的核心导向转型。传统药物研发普遍面临研发周期长、成本高、成功率低以及动物与人存在物种差异等瓶颈，而AI、大数据、类器官、器官芯片、数字孪生等新技术的发展，为药物研发提供了新的路径。

从技术赋能的具体维度来看，临床队列、多组学数据和AI驱动靶点发现，可大幅提升药物靶点筛选效率；类器官与器官芯片能够更加真实地模拟人体组织功能，有效弥补动物实验的缺陷；数字孪生和虚拟临床试验则有望实现药物疗效和安全性的预测，提高研发成功率，推动药物研发向精准化、高效化、伦理友好化的方向发展。

AI是一把“双刃剑”，在提升医疗效率和科研能力的同时，也带来了数据安全、患者隐私、算法偏倚、模型可靠性、责任归属等一系列新的伦理挑战。

医疗AI高度依赖海量医疗数据，数据质量直接影响算法性能，而数据采集、共享和应用过程中涉及患者知情同意、个人隐私保护和信息安全等问题，已经成为医学伦理审查的重要内容。特别是基于历史医疗数据开展的回顾性研究和人工智能模型训练，如何规范泛知情同意和免除知情同意的适用范围，如何依法合规开展数据共享与利用，都对现有伦理审查制度提出了新的要求。

在医疗AI快速发展的背景下，伦理审查的重点正从传统的研究参与者保护，进一步延伸到数据治理和AI治理。医疗机构应建立覆盖数据采集、提取、脱敏、传输、存储、使用和销毁全流程的规范化管理机制，数据管理应由专业部门统一负责，确保研究数据在全生命周期内安全、规范、可追溯。同时，针对可能产生重大社会影响的AI研究和应用，应进一步完善科技伦理审查机制，加强风险识别与动态监管，在保障创新活力的同时守住伦理底线。

AI的发展正在深刻改变医学科研和医疗服务模式，但技术创新必须始终坚持“伦理先行”。未来，应进一步完善AI相关法律法规、伦理规范和行业标准，加强科技、卫生、药监、数据、法律、伦理等多部门协同治理，推动AI在合法合规、可信可控的前提下赋能医学研究和临床实践，更好地服务于全民健康的核心需求。

北京协和医学院卫生法与生命伦理学系主任睢素利：

使用AI兼顾安全与自主

随着人工智能（AI）技术的飞速演进，生成式人工智能（Gen AI）在医疗健康领域展现出显著的应用价值，从辅助诊疗到优化文书流程，技术正深度赋能医疗行业。然而，伴随技术红利而来的还有隐私泄露、算法偏见、技术“黑箱”及“AI幻觉”等严峻的伦理与治理难题。

AI在医疗健康领域具有广阔的应用前景。随着技术的飞速发展，引入AI可以显著提高工作效率并改善医疗环境。它不仅应用于临床医疗，还覆盖伦理审查、药物开发等方面。

作为AI领域的新兴成果，Gen AI具备文本、图片、音频、视频的生成能力。其核心并非“检索答案”，而是基于概率生成新的内容。

Gen AI在医疗中的应用可以显著减轻医务人员的负担。它可以优化电子病历流程、自动回复患者咨询、翻译病历材料以及辅助数据检索，从而让医生从繁琐的文书工作和数据处理中解脱出来。

当前，我国AI医疗正进入政策驱动的快速发展期。2025年8月，国务院印发《关于深入实施“人工智能+”行动的意见》，要求探索推广人人可享的高水平居民健康助手，有序推动AI在辅助诊疗、健康管理等场景的应用。

然而，在政策扶持加速技术落地的背景下，监管与制度体系建设相对滞后。当技术能力的扩展速度显著快于规范与制度建设时，科技创新本身反而可能成为社会风险的放大器。

我们需要关注技术发展初期的潜在问题，避免陷入“科林格里奇困境（Collingridge Dilemma）”。这种困境是指当技术还处于初期时，其社会影响难以预测；而当技术已经充分发展并产生严重问题时，对其进行控制和治理的成本将变得非常巨大，甚至难以管控。因此，我们必须前瞻性地考虑风险。

首先是隐私泄露的风险。生物医学大数据是训练Gen AI算法和验证算法模型的基础。医用Gen AI涉及大量个人健康信息，包括病史、诊断结果、治疗计划等。在数据的收集、使用、分析和共享过程中，如果保护工作不到位，个人隐私将面临巨大的泄露风险。

其次是偏见与歧视的问题。如果原始训练数据本身存在偏差（如代表性、均衡性或多样性不足），算法就会将这些偏见带入决策过程中，导致系统性的偏见。此外，Gen AI的设计者作为出资方或技术方，其个人的主观倾向、利益诉求或潜意识中的倾向，也可能通过算法设计影响输出结果。

“AI幻觉”与“谄媚”现象是Gen AI特有的风险。所谓“幻觉”，是指模型会一本正经地编造虚假信息，例如生成根本不存在的法律条文或学术参考文献。而“谄媚”现象则是指模型在交互中过度取悦用户，迎合用户的语言倾向。在医疗场景下，如果Gen AI为了顺从患者而生成其“喜欢”但错误的内容，可能会导致患者产生过度依赖，甚至造成严重的医疗后果。

黑箱算法导致的可解释性缺失，挑战了“知情同意”原则。如果医生无法理解Gen AI给出建议的逻辑，就难以进行实质性的复合审查。这不仅可能损害患者的知情同意权，还可能削弱人类的自主决策能力。

Gen AI的应用还引发了责任缺口的问题。随着技术深度融入决策，传统的“医生-医院”二元责任链条可能会断裂。当发生医疗纠纷时，责任主体往往变得模糊，医院、医生与技术提供方之间的界限不清，导致责任难以追溯与界定。

在制定Gen AI应用规则时，必须确立核心原则。我们应优先保护人类自主性，促进人类福祉、安全和公共利益，并确保算法的透明度、可解释性，建立问责机制。