英国《每日邮报》9月13日（北京时间）的一篇文章，以“现实版《2001太空漫游》”作为大标题，报道了一台能够欺骗其他机器人、甚至欺骗人类的智能机器人。据研制机器人的科学家称，这应是世界上第一例涉及机器人“欺骗行为”而进行的实验。论文刊登在《国际社交机器人技术期刊》上。
在美国电影大师斯坦利·库布里克的殿堂级作品《2001太空漫游》中，宇宙飞船上一台名叫“哈尔”的智能电脑，劫持了飞船并施计杀死了4名机组人员，表现出人工智能的精湛“骗术”。
一直以来，人们认为这只是科幻电影中的场景，但现在，美国佐治亚州理工学院的科学家罗纳德·亚金率领的研究小组编写出了一套计算机运算法则，该高科技程序能让机器人自主决定它是否面临危险，以及是否应该通过欺骗另一个机器人或一个人的方式，让自己安全地躲藏起来，而不被敌人发现。
为了防止机器人滥用“骗术”，科学家使其必须先满足两个必要条件后，才能获得行使欺骗行为的授权：其一，它和搜寻者之间必须有冲突；其二，它可以从欺骗行为中获得益处。再然后，科学家利用相互依存理论和博弈论开发出算法，测试欺骗行为可以获得的收益，以教会机器人在辨别眼前的形势后决定是否需要行使欺骗行为，并让它能根据对“敌方”的了解程度，而调整欺骗策略以赢取最佳效果。
在实验中，科学家让两个机器人进行了20次“躲猫猫”游戏。其中安装了新程序的“机器小骗子”多次制造出假的运动轨迹，顺利躲过了另一个机器人的搜寻；但该机器人也会因为没能成功施展出计划中的骗术，被后者逮到而失败，然而，整个实验中，骗术成功的概率达75%。研究合作者、工程师艾伦·瓦格纳称：“它虽不甚完美，但仍证明新技术及算法可使机器人于杂乱环境下施行骗术。”
尽管有些人期待着“机器小骗子”在军事上“大展拳脚”，但包括研究者本身在内的多数人，都看到了这其中暗含的伦理问题。他们担心，假如某一天人工智能摆脱了人类意志而自行设下迷魂阵，届时现实版的《2001太空漫游》就将“粉墨登场”。
研究人员一致认为，必须保证机器人这些行为和预期完全一致并对社会有益。他们建议，就“骗子”机器人的适合性展开讨论，争取制订出束缚这一系统的规章制度和指导方针。（来源：科技日报 张梦然）
更多阅读
特别声明：本文转载仅仅是出于传播信息的需要，并不意味着代表本网站观点或证实其内容的真实性；如其他媒体、网站或个人从本网站转载使用，须保留本网站注明的“来源”，并自负版权等法律责任；作者如果不希望被转载或者联系转载稿费等事宜，请与我们接洽。
