作者:赵广立 来源:中国科学报 发布时间:2026/9/18 10:25:43
选择字号:
腾讯朱殿君:模型能力越强,安全责任越重

 

“模型能力越强,安全责任越重。”

9月15日,2026年国家网络安全宣传周人工智能安全治理论坛在山东济南举办。腾讯集团副总裁、总编辑朱殿君出席论坛,分享了腾讯从模型安全、智能体安全到安全赋能的AI安全治理实践和思考。在发言中朱殿君表示,置身AI 浪潮中,必须坚持以安全促创新、以治理赢信任、以开放谋共赢。

朱殿君在报告中。腾讯供图

“大模型既是AI 能力的源头,也是安全的基础防线。”谈及大模型底座的安全可靠,朱殿君介绍说,腾讯训练、推理、应用三个阶段,构建了一整套全生命周期、分层治理的安全架构。

具体来说,在训练阶段,技术团队通过建立安全隔离区,将计算资源有效隔离,实现训练、推理、清洗各环节数据互不干扰,有效避免训练数据、模型文件泄露;在推理阶段,他们基于可信硬件构建的可信执行环境,确保大模型流畅服务的同时,有效保护用户隐私,实现数据安全隔离,确保模型在推理过程中信息不被窃取、篡改和破坏;在应用阶段,腾讯以自研的大模型应用防火墙为底座,对输入输出的数据进行检查,构建覆盖提示词注入、算力滥用、接口越权、流量攻击等威胁的多维度防护,同时自研系列安全风控平台从多个维度过滤内容风险。

面向智能体安全,朱殿君介绍说,腾讯打造了自主可控的三层纵深防御体系——从技术防御、管理管控到合规审计,护航网络安全与业务合规。

其中,技术防线的目标是为智能体构筑“安全沙箱”,它划定清晰的操作边界,对异常操作实时拦截,从源头阻断各类高风险行为;管理防线旨在精细化管控工具的调用权限,通过采用逐项授权机制和操作留痕可追溯机制,有效杜绝密钥明文存储、权限失控等隐患;合规防线则聚焦第三方技能的供应链安全,腾讯安全团队会与第三方技能提供方联动风险验证,确保供应链风险可控、可追溯。

在安全赋能层面,朱殿君表示,腾讯为企业和个人提供了覆盖全链路的AI 安全工具箱,构建了端云协同、开放共享的安全产品体系。

“智能体安全需要做到‘可视、可控、可信、可溯’,具体是要做到摸清资产底数(可视)、强化行为权限(可控)、筑牢供应链安全(可信)、全维度行为审计(可溯)。”朱殿君说,围绕这四项原则,腾讯构建了以iOA 零信任安全管理系统、AI Agent 安全中心、大模型应用防火墙、AI Agent 安全网关和NDR 流量安全检测为核心的安全组件体系,以期系统化解决智能体在推理防护、运行管控等环节面临的安全风险,为用户提供全链路、纵深防御的安全保障。

 
版权声明:凡本网注明“来源:中国科学报、科学网、科学新闻杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
研究揭示甲烷部分氧化制合成气驱动因素 科学家揭示火星大气物质运输规律
超导双层镍氧化物薄膜的三维电子结构 改造人体细胞能否重建骨骼
>>更多
 
一周新闻排行
 
编辑部推荐博文