7月26日，中国人工智能发展与安全研究网络举办“人工智能发展与安全”全体会议。会议由清华大学文科资深教授、人工智能国际治理研究院院长薛澜主持，近20位资深专家围绕人工智能（AI）发展与安全的前沿进展与应用实践进行深入探讨。

会议伊始，诺贝尔奖和图灵奖得主、多伦多大学教授杰弗里·辛顿与图灵奖得主，清华大学交叉信息研究院、人工智能学院院长姚期智进行高端对谈，重点围绕AI与神经科学、AI的“自我意识”、量子计算对AI发展的影响等话题展开深度讨论。他们谈到，AI与合成生物学一样，都是在创造“新的生命”，当前AI已经初步展现出很强的理解能力甚至“自我意识”，人们应该抛弃只有人类存在“意识”的固有思维。如何训练对人类保持善意的AI，确保“智能向善”是人类必须关注和解决的重要问题。

加拿大蒙特利尔大学教授约书亚·本吉奥和美国加州大学伯克利分校教授大卫·帕特森分别线上发言。本吉奥强调，过去几年人们所见证的AI对社会的影响只是冰山一角，随着其能力的不断提升，安全风险也在同步增加，国际社会亟须加强合作，共同应对。帕特森团队发现，人机协同时的能力优于人类与人工智能各自的单打独斗，如果人类能把AI的应用聚焦于提升生产力，将获得更多收益。

随后的专家讨论环节由姚期智主持。美国加州大学伯克利分校教授斯图尔特·罗素、中国信息通信研究院院长余晓晖、英国皇家工程院院士约翰·麦克德米、清华大学交叉信息研究院副院长徐葳、奇安信集团合伙人邬怡等专家，围绕“AI与人类的和谐未来”问题展开研讨。嘉宾们指出，AI与网络等多领域的安全相互影响，需要在传统安全防护手段的基础上提升能力，呼吁加强跨学科协作，构建“辅助博弈”框架，促使AI系统主动学习人类偏好而非简单模仿行为，通过冗余验证等“软硬件结合”的方式降低人工智能风险等。

英国牛津大学布拉瓦尼克政府学院创始院长林奈莉、上海交通大学文科资深教授季卫东、美国微软公司前首席研究与战略官克雷格·蒙迪、中国电子信息产业发展研究院党委副书记胡国栋、中国电信集团网络与信息安全首席专家刘紫千、阿里云智能集团副总裁刘湘雯等专家参加了薛澜主持的讨论，围绕“人工智能发展与安全的全球治理”问题展开。他们谈到，智能体（Agent）的快速发展使得原本“点对点”的安全问题逐渐转变为系统性安全风险，仅依靠行业自我监管很难有效应对，呼吁世界各国加强合作，通过建立类似国际原子能机构的专门机构等方式，形成具有广泛共识的AI治理框架和标准规范，共同应对AI风险，

最后，中国信息通信研究院、中国电子信息产业发展研究院、清华大学、上海人工智能实验室4家网络成员单位代表网络联合发布《中国人工智能安全承诺框架》，框架在相关企业安全承诺基础上新增针对加强安全治理国际合作和关于防范前沿AI安全风险的重要内容。

《中国人工智能安全承诺框架》发布仪式。图片由主办方提供

  ?

本场论坛由清华大学人工智能国际治理研究院、中国电子信息产业发展研究院（赛迪研究院）、上海期智研究院、清华大学交叉信息研究院、中国信息通信研究院、上海人工智能实验室等多家网络成员单位共同承办。