作为一款基于文本的问答式机器人（或称聊天机器人），ChatGPT因广泛应用先进的AI技术而备受关注。从准确修复编码错误、生成烹饪食谱、创建3D动画到制作完整的歌曲、撰写小说和学术论文，ChatGPT展现了人工智能（AI）的惊人能量。然而，有专家提出，人们可以利用诸如ChatGPT等AI工具便捷自己的工作和生活，但若被不道德地使用，ChatGPT也会被用于开发智能恶意软件程序并发起隐形攻击。

“AI一直被视为是一把‘双刃剑’。”网络安全供应商“派拓网络”副总裁兼亚太及日本地区首席安全官希恩·杜卡（Sean Duca）2月7日在受访中说道，自2022年11月底ChatGPT问世以来，全球技术专家和评论员一直在关注AI生成的内容工具所产生的影响，尤其是对网络安全的影响。

受访的一些技术专家也表示，这种关注也被视为是对ChatGPT“能力”的侧面肯定。

在2022 年黑帽和Defcon安全大会上，一个技术团队展示了AI在生成钓鱼邮件和鱼叉式钓鱼信息方面是如何超越人类的：研究人员将OpenAI的GPT-3平台与其他侧重于个性分析的AI即服务产品相结合，生成了根据他们同事的背景和性格而定制的钓鱼邮件。最终，研究人员开发出一个在攻击目标之前对邮件进行梳理和完善的流程。令他们惊讶的是，这个平台还能自动提供具体内容——例如当被要求生成针对特定国家的人的内容时，会提到该国的法律。

ChatGPT发布后，其开发者明确表示，这款AI工具具有“质疑错误前提”和“拒绝不当请求”的能力。但是，尽管该系统自带用于防止任何形式犯罪活动的“防护栏”，但经过调整，它生成了一封看上去极其像人类写出来的近乎完美的钓鱼邮件。

目前，勒索软件攻击是最主要的安全事件。据统计，勒索软件攻击不仅案例数量超过总量的三分之一（36%），而且攻击者索要和获得的赎金也在不断增加。安全专家认为，究其原因，主要是由于“暗网”中的勒索软件工具价格低廉——甚至不到10美元，而且还出现了“勒索软件即服务”模式和ChatGPT等AI工具，这大大降低了网络犯罪的门槛。

希恩·杜卡表示，鉴于日益智能和先进的黑客技术所带来的威胁迫在眉睫，网络安全行业必须拥有同等资源才能对抗这些AI驱动的攻击。从长远来看，安全行业的目标不是仅让一群人类威胁猎手通过猜测来零散地解决问题，当务之急是采取智能化的行动来化解这些不断发展的威胁。

专家认为，从技术的复杂性到人为因素，企业在确保AI网络安全的过程中面临着诸多挑战，尤其是需要高度重视机器、人类和道德因素之间的平衡。

“好消息是，自主响应如今能够在无需人类干预的情况下有效解决威胁。但随着AI驱动的攻击成为常态，受到自动化恶意软件攻击的企业、政府和个人需要越来越多地依靠AI和机器学习等新兴技术做出自动化响应。”希恩·杜卡说道，某种程度上，这可以算得上是“解铃还须系铃人”。