作者:刘霞 来源:科技日报 发布时间:2024/5/1 8:33:17
选择字号:
给AI自主武器及早戴上“紧箍咒”

 

《自然》网站在近日的报道中指出,由人工智能(AI)加持的致命自主武器已经到来,AI可能会帮助它们攻击特定目标。研究人员、法律专家和伦理学家正努力解决如何在战场上使用这些武器的问题。

  ?

2023年7月,联合国安理会讨论了AI增强武器的问题。

本文图片来源:《自然》网站

  ?

美国空军的X-62A VISTA飞机已测试通过AI进行先进空中机动的能力。

AI增强武器性能

自主武器至少已经存在了几十年,如热追踪导弹,但AI算法的开发和使用正在扩展其能力。

研究人员指出,AI拥有卓越的处理和决策技能,理论上具有显著优势。在快速图像识别的年度测试中,近十年来算法的表现一直优于人类专家。例如,去年一项研究表明,AI能比人类专家更快发现论文中重复出现的图像。此外,在2020年,一个AI模型在一系列模拟混战中击败了一名经验丰富的F-16战斗机飞行员,这要归功于“该AI模型具有人类飞行员无法匹敌的精确操作”。

这预示着,包括AI无人机在内的致命自主武器正进入研发快车道。

美国国防部已为“复制者”计划拨款10亿美元。2023年8月28日,美国国防部副部长凯瑟琳·希克斯宣布了“复制者”计划,其目标是在未来18—24个月内生产、交付和部署数千个无人作战系统。使用AI实现自动驾驶和射击的实验性潜艇、坦克和舰艇已经问世,商用无人机也可以使用AI图像识别功能瞄准目标并将其炸毁。

美国战略与国际研究中心安全分析师扎克·卡伦伯恩指出,AI武器很容易锁定红外或强大的雷达信号,并将其与数据库进行比较以辅助决策。这意味着,当AI武器在战场上检测到来袭雷达信号的来源时,可在几乎不伤害平民的情况下进行射击。AI无人机也可就飞离对手的距离和攻击角度作出非常复杂的决定。

用于战场引争议

AI增加了致命自主武器的速度和规避防御的能力。一些观察人士担心,未来任何集团都可派遣大批廉价的AI无人机前往战场,使用面部识别技术消灭目标对象。

理论上,AI还能用于战争的其他方面,如编制潜在目标清单。有媒体报道称,以色列使用AI创建了一个包含数万名疑似武装分子姓名的数据库。不过,以色列军方对此进行了否认。

2017年,美国加州大学伯克利分校计算机科学家、著名反AI武器活动家斯图尔特·拉塞尔帮助制作了名为“杀戮机器人”的视频,突出了将AI用于战争可能带来的风险。视频展示了在不久的将来,配备面部识别系统的微型无人机装配炸药,成为恐怖的“AI杀手”。它们能锁定并杀死目标或攻击特定人群,如穿着制服的人。

AI在战场上出现,引发了研究人员、法律专家和伦理学家的争论。

一些人认为,AI辅助武器可能比人类引导的武器更精确,能减少死亡和致残士兵人数,减轻附带伤害,如平民伤亡和对居民区的破坏,同时帮助弱势国家和群体自卫。另一些人则强调,这些AI加持的自主武器可能会犯下灾难性错误。

而卡伦伯恩认为,主要问题不在于技术本身,而在于人类如何使用这项技术。

亟待制订相关规则

多年来,研究人员一直在努力控制这种AI增强武器可能带来的威胁,联合国已经迈出了至关重要的一步。

去年12月,联合国一项决议将致命自主武器列入今年9月联合国大会议程。联合国秘书长安东尼奥·古特雷斯去年7月表示,他希望2026年前禁止可在没有人类监督情况下使用的武器。

专家认为,此举为各国对AI武器采取行动提供了一条现实途径。但说起来容易做起来难,部分原因在于各国对法律的实际内容缺乏共识。2022年的一项分析发现,“自主武器”至少有十几个定义。

拉塞尔说,这些定义范围很广,并没有达成共识。例如英国认为,致命自主武器“能够理解更高层次的意图和方向”;德国则将“自我意识”视为自主武器的必要属性,而大多数研究人员认为现在的AI远未获得这种能力。

卡伦伯恩表示,任何关于致命自主武器的禁令都很难通过检查和观察来执行,因为AI很容易隐藏或更改系统状态。

所有这些问题都将在今年9月的联合国大会上进行讨论。

 
特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
野外回归的墨脱百合在原生地首次开花 科学家创有机小分子催化新纪录
科学家欲在脆弱冰川周围建屏障 7月福利!科学网APP论文&基金最新活动
>>更多
 
一周新闻排行
 
编辑部推荐博文