8月1日,欧盟《人工智能法案》正式生效。新华社报道称,该法案是全球首部全面监管人工智能的法规,标志着欧盟在规范人工智能应用方面迈出重要一步。
欧盟率先出台《人工智能法案》意味着什么?它会对中国产生怎样的影响和启示?
人工智能生成图片。
?
全球人工智能治理加速
“欧盟《人工智能法案》正式生效,进一步反映出全球人工智能治理加速。”中国政法大学数据法治研究院教授、中国《人工智能法(学者建议稿)》起草专家组牵头专家张凌寒告诉《中国科学报》。
张凌寒认为,人工智能已经成为当前国际技术竞争与规则竞争的关键领域,欧盟作为人工智能的重要市场,其自身人工智能产业相对薄弱。欧盟《人工智能法案》延续以往通过单方面制定法律制度,对全球商业环境和规则体系形成“布鲁塞尔效应”的路径。即通过欧盟内部市场和制度架构,单方面影响全球监管标准,进而获取谈判资本和再次利益分配权。
对此,北京邮电大学人工智能学院人机交互与认知工程实验室主任刘伟持看法相似。
“实际上,欧盟在人工智能领域相对落后于美国和中国。”刘伟说,在全球范围内,美国、中国和欧盟形成人工智能发展的三足鼎立之势,其中美国扮演着“领头羊”角色,而欧盟的人工智能相关技术落后,相关产业竞争力欠缺。
“欧盟迫不及待地出台法案,名义上是防止人工智能技术无节制发展,将来可能危害人类。”刘伟分析说,“实际上更直接的目的是保护其人工智能相关产业,通过法案制约不利于欧盟的技术,防止美国或中国的人工智能产品快速占领欧盟市场。”
谁能用好“双刃剑”
人工智能治理是把“双刃剑”,立法既是一种保护手段,也会成为技术发展的羁绊。
刘伟认为,这和人工智能行业领军企业open AI的两位“大佬”——奥特曼和伊利亚分道扬镳的原因类似。伊利亚认为,相关产品不标注由人工智能产生会出现假数据、假图像、假视频,甚至更严重的问题。但奥特曼认为当前最紧迫的是抓紧时间实现这些基本技术。
欧盟《人工智能法案》规定,所有的人工智能交互产品和结果必须标注,其中一些条款规定,聊天机器人等人工智能系统必须明确告知用户他们在与机器互动,人工智能技术提供商必须确保合成的音频、视频、文本和图像内容能被检测为人工智能生成的内容。
再比如,该法案涉及一些人工行业“合规”的新规定,包括谷歌、亚马逊和Meta等美国主要科技公司在欧盟运营必须适应新的监管环境。其中Meta由于监管的不确定性,目前其人工智能模型在欧盟已受到限制,其他违反《人工智能法案》的公司将也会面临重罚。
“这让企业开发相关技术和产品时放不开手脚。”刘伟分析说,“现在美国和中国对迟迟未出台人工智能相关法规,原因之一就是当前人工智能技术发展飞快,立法不慎可能会带来负面影响。”
“中国当前应当有部《人工智能法》来彰显立场,为人工智能技术产业发展保驾护航。”张凌寒补充说,“只有在法律这一位阶层面制定人工智能法律制度,才能够统筹协调并确立国家层面人工智能治理制度,真正实现立法先导,发挥法治在人工智能发展治理领域固根本、稳预期、利长远的基础性作用。”
刘伟也强调,不管是美国、欧盟或中国,“谁能率先提出一个能被广泛接受的新标准、新理念,就会在未来的市场竞争中更具优势”。
“领先的追赶者”如何“对冲”
张凌寒认为,就具体治理规则而言,中国和欧盟在价值文化、监管体系、产业生态等方面均存在一定差异性,尤其是中国的人工智能产业具有独特的国际生态位,是人工智能领域“领先的追赶者”。
“因此,我国在制定人工智能治理规则时要谨慎移植学习国外的人工智能治理制度,提出有别于欧盟立法体例和思路的中国方案,避免法律与产业实践的悬隔。”张凌寒补充说,“《人工智能法(学者建议稿)》起草过程中,始终注重结合中国本土需求,充分考虑了我国人工智能产业发展实际,一方面大力支持和促进产业发展,另一方面切实保障安全监管需求。”
“美国曾提出一个很好的概念‘Responsible Artificial Intelligence’(负责任的人工智能),意味着以一种伦理、透明、安全、公正且符合法规的方式开发和使用人工智能。”刘伟说,“这一概念得到很多国家的支持,但目前中国还没很好的概念与之‘对冲’。”
刘伟分析说,“负责任的人工智能”乍听上去很有道理,实际上容易产生错觉,让人误解。因为能负起责任只有“人”,人工智能是项技术,是软件和硬件的结合或者说是“机器”。“机器”只是“人机环境系统智能”中的一环,面对不同的环境,比如金融、军事、政治、经济等具体环境,有不同的智能生态系统,所以我们应以系统观、整体观看待人工智能,以“人机环境系统智能”的观点思考问题。
“目前,人工智能治理的博弈已到‘赛点’。”刘伟说,“中国必须从更宏观、更顶层的视野,吸纳欧盟和美国的人工智能治理的精髓,提出自己的人工智能治理理念,才能在这场博弈中不落下风。”
版权声明:凡本网注明“来源:中国科学报、科学网、科学新闻杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。