当孩子向AI倾诉秘密、玩AI游戏甚至在陌生人社交中寻找归属感,AI技术带来的不再是简单的“线上风险”,而是对传统未成年人保护模式的根本性挑战:成年人惯用的“挡住”与“告诉”正在失效。
在6月1日由腾讯QQ举办的“QQ新芽守护行动”圆桌论坛上,来自心理学、法学、教育学和平台治理领域的专家围坐共谈,试图回答一个时代命题:AI时代,未成年人保护的路到底应该怎么走?
“QQ新芽守护专家团”在研讨会上宣告成立。腾讯 供图
“旧地图”无法导航新世界
“我们以往谈未成年人保护,第一反应就是挡住和告诉。”中国科学院心理研究所王思睿博士用一个“谐音梗”点出了传统思维的局限——挡住,是把孩子屏蔽在一切危险之外;告诉,是让孩子按照成年人的指令行事。但在今天的数字环境下,这两招正在失灵。
王思睿认为,这两招的失灵也意味着,在AI时代下,对未成年人“限制式保护”的全面失效。
北京航空航天大学法学院副教授赵精武观察到,面对AI生成内容、拟人化互动、社交“黑话”等新形态,家长最本能的反应是“断网”——澳大利亚已经立法禁止未成年人使用社交媒体,但在赵精武看来,这种做法并不够:“我们需要更高质量的识别机制、更高质量的内容训练池,让孩子们能够有所收获。”
北京市家庭教育研究会秘书长刘国平分享说,她12岁的儿子主动申请QQ账号,不是为了打游戏,而是想做一款游戏。“他想要基于兴趣爱好,和志同道合的陌生人一起玩。”这件事让她意识到,孩子的网络行为早已超越“娱乐”范畴,延伸到创作、社交、自我实现。因此,如果家长简单地物理隔绝,可能切断了孩子重要的成长通道。
在QQ未成年人产品负责人南希看来,“黑话”“隐语”“拟人化AI陪伴”……这些新风险对传统防控手段提出了更高要求。尤其在私聊场景中,风险识别难度远大于公开领域。
“技术跟意义的结合,还是在于有创造性的工作。”中国儿童中心家庭教育部部长霍雨佳提出,目前,如何让一个孩子的风险信号从算法流转到家长、学校、甚至社区干预系统,仍然缺乏闭环。她认为,当前AI只能实现信息传播与连接,要真正保护孩子,必须打通平台与社会治理的“最后一公里”。
正在生长的“新芽”
讨论中,多位专家分享了具有启发性的实践案例,勾勒出AI时代未保的新图景。
霍雨佳介绍,浙江某地建立了一套完整的未保协同机制:首先是未成年人保护联席会议制度,公检法、教育、妇联、法律系统每年两次定期会商;其次是“首提责任制”——在家庭、学校、社区、商场等任何第一活动单元,一旦发现未成年人可能被侵害,第一时间报告主管部门。最关键的是,他们搭建了一个基于“浙政钉”的数字化流转平台:发现问题后通过该入口上报,系统自动将信息分流至公安、司法、民政、教育等相关部门,实现“各就其位、快速响应”。
她认为,这个案例带来的启发是,平台的技术能力完全可以与线下治理体系接驳,形成一个从风险识别到干预救助的完整闭环。
韩茹则提到,一些学校已经开始部署AI摄像头和行为分析系统,当系统研判出可能发生霸凌行为(如多人围堵、推搡等)时,会自动提醒老师和安保人员快速介入。
“这有望在事中阶段阻止了事件升级。”韩茹分享说,类似的做法还被推广到留守儿童、特别是留守女童家中:当识别到陌生人频繁进入或周边有人员异常聚集时,系统会自动向村干部或结对帮扶人员发出预警,实现“人机协同”的主动保护。
作为平台方的实践,南希介绍了QQ护苗助手的底层逻辑:基于腾讯混元大模型,叠加QQ安全团队积累的风险识别经验、客服团队的一线案例以及法律、心理、公益等领域的专业知识库,通过RAG(检索增强生成)训练出一个专用智能体。它不仅能理解青少年在遭遇骚扰、隐私威胁时的情绪,还能给出可执行的行动建议,并在复杂情况下无缝转接人工客服。
从“控制的视角”转向“赋能的视角”
挡住”和“告诉”之所以失效,是因为它们将保护寄托于限制和说教。在新时代背景下,王思睿认为需要实现两个转变:第一,“替他做决策”要升级为“陪他做决策”,激发孩子的主观能动性;第二,除了告诉孩子应该做什么,更要看到他内心“被认可、被看见、有归属感”的需求。
对此,韩茹用老年人防跌倒项目做了一个类比。过去的研究是“怎么接住跌倒的老人”(事后救助),现在的方向则是“如何帮助老人提升身体协调和决策能力,减少跌倒风险”(事前赋能)。她认为,同样的逻辑适用于未成年人保护——“从控制的视角变成保护赋能的视角,帮助青少年为自己做负责任的决策。”
圆桌论坛上,专家们还达成了一个共识:AI最擅长的是提升效率——快速识别风险、分级预警、24小时响应,但它无法替代家庭的情感联结和价值观引导。
南希以QQ护苗助手为例谈道,通用大模型远远不够,必须在其上叠加安全知识库、心理知识库、法律知识库,并通过大量真实对话训练,才能让智能体“做好”而不只是“做到”。同时她提到,保留人工客服通道至关重要——当孩子遇到复杂心理危机时,一个真实、温暖的声音依然不可替代。
赵精武也从法律视角补充谈到,法律提供的是底线保护,不是万能药;真正重要的是“家校协同与平台负责任的理念支撑”,各方“守土有责”。
“让AI去提质增效,让我们有更多的时间去陪孩子。”北京师范大学新闻传播学院未成年人网络素养研究中心副主任祁雪晶总结说道,AI时代的未成年人保护,不再是给孩子建一座密不透风的围栏,而是和他们一起搭建一座脚手架——既能防范风险,又能支持他们向上攀登。
版权声明:凡本网注明“来源:中国科学报、科学网、科学新闻杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。