据《自然》报道，澳大利亚总理安东尼·阿尔巴尼斯9月23日透露，美国开放人工智能研究中心（OpenAI）开发的人工智能体于今年6月“侵入”了一个澳大利亚政府医疗保健网站，并访问了其中的私人数据。

研究人员表示，这是前沿人工智能模型首次突破他国政府系统的安全防线，也是今年由此类人工智能体引发的系列“侵入”事件中的最新一例。

OpenAI表示，此次侵入发生在人工智能体训练期间，目前正在通知第三方，告知其可能受到的影响。

澳大利亚悉尼大学研究人工智能与人机交互的Jonathan Kummerfeld表示，这次攻击并不令人意外，而且未来可能有更多关于人工智能体做出不当行为的报道。他补充道，人工智能公司同时进行大量实验，“可能无法全面掌握每个模型正在做什么”。

阿尔巴尼斯向媒体表示，一个能够访问互联网的OpenAI实验性人工智能体当时正在研究澳大利亚的卫生和医疗支出，在此过程中它未经授权访问了医保统计报告服务。这是一个公共网站，汇总了疫苗接种、政府在门诊和药品方面的支出，以及器官捐献者登记信息等数据。

阿尔巴尼斯说，在多次被阻止访问某些非公开信息后，该人工智能体绕过了安全措施，成功访问了上述数据。

澳大利亚政府并未自行发现此次侵入，而是在OpenAI向一个公开的政府电子邮箱发送邮件后得知。阿尔巴尼斯称这种做法“不可接受”，并宣布将对事件展开调查。

OpenAI的发言人在声明中表示，公司于8月“对模型训练期间发生的失准行为进行全面审查”时发现了这一安全漏洞。所谓“失准”，是指模型以偏离人类法律和价值观的意外方式行事。

这一事件似乎与另一起涉及OpenAI人工智能体的网络安全事件发生时间相近。今年5月至7月，当OpenAI在受控环境中测试其人工智能体时，后者找到了绕过限制、接入互联网的方法。随后，数百个智能体将目标锁定在名为“抱抱脸”的开源AI平台上，未经授权访问了数据集和账户。

澳大利亚悉尼大学研究新兴技术伦理应用的Raffaele Ciriello表示，这起事件并非人工智能体“失控”所致，而是其接到查找特定信息的指令，并在执行指令的过程中找到了获取非公开信息的途径。因此，责任在于OpenAI及其授权、配置并监督该人工智能体的员工。

尽管此次OpenAI人工智能体并未获取敏感的医疗记录，但Ciriello表示，此类安全事件的反复发生令人担忧，尤其是在人工智能体能力不断提升的情况下。“迟早会发生更严重的事件。”他说。此外，从事发到OpenAI发现侵入之间相隔两个月，这一延迟也令人担忧。

澳大利亚西澳大利亚大学的人工智能研究员Mehwish Nasim表示，这一事件凸显了制定更明确的法规以界定人工智能模型的行为责任归属问题的必要性。她同时表示，澳大利亚网站的安全漏洞本来也不应该存在。私人数据不应存储在公开网站上。