美国启动国家人工智能研究资源试点项目
日前,美国国家科学基金会(NSF)正式启动国家人工智能研究资源(NAIRR)试点项目。NAIRR是一个共享国家研究基础设施的概念,旨在让更多美国研究人员和学校获得计算资源,从而推动负责任的人工智能发现和创新。
NSF联合美国国防高级研究计划局、宇航局、国立卫生研究院、国家标准与技术研究院、国家海洋和大气管理局、能源部、专利商标局以及多家私营企业、非营利组织等机构,为研究人员和工程师提供各种与人工智能相关的基础设施资源,包括数据集、人工智能模型、软件和培训资源等。
未来3年内,整个项目每年有8亿美元预算。NAIRR试点项目最初将支持人工智能研究,以助力发展安全、可靠和值得信赖的人工智能,并将人工智能应用于医疗保健、环保和基础设施的可持续性发展。
试点项目涉及4个重要方面:通过NAIRR试点门户访问和协调分配各种人工智能资源,实现开放式人工智能研究;由美国国立卫生研究院和能源部共同领导开展用于隐私和资源保护的人工智能研究,并创建用于隐私保护的相关范例;研究NAIRR试点项目的人工智能软件、平台、工具和服务的可互操作性;通过教育、培训、用户支持和外展活动覆盖新的研究社区。(黄茹)
欧盟新版《网络安全条例》生效
日前,欧盟新版《网络安全条例》生效,规定了每个欧盟组织机构需要采取相应措施,建立内部网络安全风险管理、治理和控制框架,设立一个新的机构间网络安全委员会(IICB),监测和支持欧盟实体落实相关条例。
此外,该条例延长了欧盟计算机应急组织(CERT-EU)的任期。CERT-EU是威胁情报、信息交换和事件响应的协调中心、中央咨询机构与服务提供者。CERT-EU被重新命名为欧盟机构网络安全服务,其简称“CERT-EU”被保留。
按照《网络安全条例》规定的时间表,欧盟组织机构将建立内部网络安全治理流程,并逐步落实该条例规定的具体网络安全风险管理措施。IICB将尽快成立并投入运作,其目标是为CERT-EU提供战略导向,为欧盟组织机构提供指导和支持,并监督条例实施。
据悉,欧盟委员会于2022年3月宣布了《网络安全条例提案》。2023年6月,欧洲议会和理事会就该提案达成政治协议。欧盟《网络安全条例》与《信息安全条例》提案一起提交,为所有欧盟组织机构设定信息安全规则和标准底线。(唐蘅)
多国制定发布人工智能安全使用指南
澳大利亚网络安全中心近日发布《参与人工智能》联合指南,概述了人工智能应用风险及缓解措施,为政府、企业等组织安全使用人工智能系统提供指导。
《参与人工智能》由澳大利亚网络安全中心、美国网络安全和基础设施安全局、美国联邦调查局、美国国家安全局、英国国家网络安全中心、加拿大网络安全中心、新西兰国家网络安全中心、德国联邦信息安全办公室、新加坡网络安全局等合作编写。
人工智能常见风险包括:人工智能模型数据中毒,涉及操纵人工智能模型的训练数据,致使模型学习不正确的模式,并可能对数据进行错误分类,或产生不准确、有偏见或恶意的信息并输出;通过输入恶意指令操纵攻击,即将恶意指令或隐藏命令输入人工智能系统,或制定专门的输入指令,故意导致人工智能模型产生不正确的信息并输出;生成虚假信息,生成式人工智能系统会产生与事实不符的信息;隐私和知识产权问题;窃取人工智能模型及训练数据,涉及恶意行为者向人工智能系统提供输入,并使用输出创建其近似副本,导致生成式人工智能模型泄露训练数据。(黄茹)
《中国科学报》 (2024-02-22 第2版 国际)