作者:钱明辉 来源:中国科学报 发布时间:2025/7/10 22:31:28
选择字号:
AI正在“改变你的想法”?
——从Reddit实验看社会科学实验的伦理争议与制度边界

 

近期,一项人工智能(AI)实验引发广泛关注。瑞士苏黎世大学的研究团队在Reddit论坛“r/ChangeMyView”板块上部署多个AI聊天机器人伪装成普通用户发布了上千条评论,试图通过逻辑推理的方式说服他人改变观点,旨在测试AI语言表现能力。研究结果显示,部分AI评论获得平台的“delta”标记。这意味着,发帖者认为自己被成功说服,说明AI在公共讨论中有影响人类立场的能力。

这项实验因未事先披露AI身份,引发了对伦理边界的持续争议。当AI以普通用户身份参与公共讨论时,是否已越过“观察者”角色,成为影响他人判断能力的“参与者”?在实验对象毫不知情的前提下,这样的设计是否已经违背了社会科学实验应遵循的知情同意与公平参与原则?更进一步,当AI开始“开口发言”,社会科学实验室是否也应同步构建清晰可行的制度规范,以回应新技术带来的伦理挑战?

看不见的说服:

人工智能是“帮你思考”还是“替你决定”?

近年来,AI的应用场景不断扩展。从电商推荐到新闻摘要、从智能客服到社交媒体评论生成,AI深度参与到人们的信息获取和表达过程。但Reddit实验的特别之处在于直接“走进”讨论区,以“用户”身份参与争论,并试图改变他人的想法。

实验中,AI通过层层推理、举例说明、语言礼貌的方式发表看法,不允许任何的暴力攻击或情绪煽动。这就使得参与者以为自己与真实人类在沟通交流的情况下,被纳入隐性实验流程,与AI进行观点博弈。这种“悄然介入”的实验方式,破坏了公共讨论空间中各个参与者身份对等与立场真实的基本信任前提,被试者被迫失去了知情权,且讨论内容的判断空间被压缩。

公共讨论的前提是各个参与者身份平等透明且能承担合理责任。AI既无个人经验,也不需承担表达后果,却能凭借语言优势改变他人判断。随着AI的说服能力增强,它不仅可能干扰个体的真实判断,更可能被操纵来重塑舆论、引导公众情绪。

三个值得警惕的问题

Reddit实验虽然范围有限,但所揭示的伦理风险却具有普遍性。有以下3个方面值得社会科学实验及公共平台治理共同关注。

第一,AI与人类两者间信息不对称。在没有说明身份的前提下,人类讨论者处于劣势位置,违背了公平互动的基本原则。AI拥有大量语料、推理结构和算力优势,但人类使用的是日常语言,AI实际上拥有远超人类用户的信息组织与表达优势。

第二,公共平台信任机制受损。公共讨论依赖于基本的交流信任。用户在事后才得知自己被AI测试过并成为实验对象,这种事后知情容易引发不安与抵触。长期下去,平台整体讨论氛围可能被破坏,用户更倾向于自我审查与回避互动,从而影响讨论的真实性与丰富性。

第三,公共讨论的表达风格趋同化。AI善于组织语言,输出强调礼貌、结构清晰和逻辑完备,往往避免情绪化表达与争议性内容。久而久之,这种规范的表达风格可能在无形中挤压掉那些有立场、有情感的观点表达。

构建规范边界,保障公平讨论

面对AI以“普通用户”身份参与公共平台讨论的现象,不能简单地一禁了之,也不能听之任之。关键在于确立清晰的制度边界,维护公共讨论的公平性与可信度。具体而言,可以从以下几个方面着手。

第一,必须公开AI身份。平台应该明确标识参与公共平台讨论的AI账户,这是保障用户基本知情权的前提,也是维持公共讨论起点公平的必要条件。

第二,相关平台要制定管理规范。平台应承担监管责任,根据平台自身特点,界定AI账号的使用范围,明确可参与的话题、应遵守的表达规则及信息透明要求。

第三,用户需增强辨识意识。AI生成内容日益常见,普通用户应具备基本的识别能力,意识到内容流畅的评论可能并不真实可信;学校、媒体也可以加强这方面的教育和普及。

第四,引导各方参与规则制定。AI治理不能只交给技术部门。平台管理者、研究机构、用户代表都应参与,共同决定AI在公共讨论中的角色和边界,确保所形成的制度既合理管控,又鼓励创新。

Reddit实验引发的讨论,不只是技术议题,更是一次关于制度边界的集体提醒。在中文互联网环境中,AI生成内容的渗透速度同样迅猛,从文本撰写到评论辅助均已普遍应用。如果不尽早建立规范、划定边界,未来我们面对的或许不仅是“你不知道谁是机器人”,更可能是“你不知道自己为何改变了立场”。

AI已在多个领域发挥积极作用,但当它进入公共表达与意见生成领域,必须引起足够重视。讨论应建立在平等、知情、信任的基础上,而不是由技术主导讨论进程并在无形中影响观点形成。通过社会科学实验的规范探索,确立清晰的规则边界,保障讨论的透明、公正与知情,我们才能在AI时代守住真实、开放、多元的公共讨论空间。

(作者单位:中国人民大学科学研究处、中国人民大学信息资源管理学院)

 
版权声明:凡本网注明“来源:中国科学报、科学网、科学新闻杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
科学网2025年6月十佳博文榜单公布! 果树还能变石头
两道同心圆环揭示恒星“双重引爆”证据 有证据证明成年人类也会萌发新脑细胞
>>更多
 
一周新闻排行
 
编辑部推荐博文