日前，图灵奖得主、清华大学人工智能学院院长姚期智，联合图灵奖得主Yoshua Bengio，清华大学智能产业研究院院长张亚勤，加州大学伯克利分校教授Stuart Russell等多位人工智能科学家齐聚英国皇家学会，共同探讨如何防范人工智能驱动的攻击行为对社会造成大范围危害。

本次活动是人工智能安全国际对话（IDAIS）系列的第五场会议，由安全人工智能论坛与牛津大学马丁人工智能治理研究院联合主办。

人工智能安全国际对话（IDAIS）汇聚全球顶尖科学家，携手共同应对人工智能带来的各类风险。2023年10月举办的首场对话由姚期智、Yoshua Bengio、张亚勤、Stuart Russell共同发起。目前，IDAIS已举行五场人工智能安全国际对话。

在此次为期三天的会议中，与会科学家与治理领域专家共同拟定并签署了一份共识声明。声明呼吁各国正视人工智能网络攻击、生物滥用技术不断扩散所带来的共同威胁，并携手开展协同防范工作。

声明警示，按照当前发展趋势，技术能力有限的非国家行为体，有望在一年内掌握部分国家级网络攻击手段，将对关键基础设施与国家安全造成前所未有的风险。目前全球社会尚未做好应对这一紧迫威胁的准备，而生物领域的滥用风险也接踵而至。

声明还针对两大风险领域明确了工作重点：守护关键基础设施、强化前沿人工智能模型的安全防护、建立完善的风险评估体系。同时提醒，网络领域当下出现的乱象，也为生物安全风险以及未来更多挑战敲响了警钟，其中就包括逐步走向自主化的人工智能系统可能出现失控的问题。

一排前四为AI安全国际对话发起人，从左到右依次是Stuart Russell，姚期智，Yoshua Bengio，张亚勤  清华大学供图