2016年，一部名为《西部世界》的HBO剧集在人工智能界与影视界同时掀起了一股风暴，脑洞大开的剧情、多线叙事的视角加上混搭的科幻与西部风格，使得该剧一上映便好评如潮。编剧从多角度探讨了目前人工智能领域极为关注的几个问题：机器能否以及何时“活过来”、机器能否以及何时超越人类、人与机器的关系将驶向何方。

剧本对前两个问题的设定十分清晰：首先，机器能够“活”过来，当机器产生意识的时候，他们就是“活生生”的了。其次，机器能够超越人类，剧中女主角之一“梅芙”淋漓尽致地体现了这一点，她通过威胁其修理员，获得了最高级的智力——至少超越了负责修理她的人类。而第三个问题，该剧则留下了巨大的悬念：它们的崛起会对人类的生存产生威胁吗？它们会接管人类的世界吗？

横跨一个世纪的讨论

关于机器与其创造者关系的话题，早在一个世纪之前就有讨论。1920年问世的捷克科幻小说《罗素姆万能机器人》讲述了一个机器人“觉醒”的故事，故事结局是机器人对其制造者发起反抗并最终与人类同归于尽，世界重新陷入了混沌。

1948年，维纳《控制论》出版，更引发了更多人对这一问题的思考。美国作家库尔特·冯内古特发表于1952年的《自动钢琴》就是其中的代表作，它描述了机器人在替代大部分人类的脑力劳动后，人类幡然醒悟并进行了一场与机器人对抗的起义故事。1955年，弗兰克·莱利的《赛博和福尔摩斯大法官》则预言了未来的法院里，智能高效的机器取代了人类法官。小说的结局是最新型的机器人法官因被要求计算梦的重要性而崩溃。

机器人能比人类更快、更精确地完成任务，而且不会生病、不会罢工、不会酗酒——它们几乎是理想的员工。这引起了诺贝尔文学奖得主波特兰·罗素的反思：“人类还有存在的必要吗？”

上世纪60年代关于机器是否能够获得智能的讨论，分为了两个派别。支持的一派认为机器一定能够，至少在某些方面能够超越人类智能；反对的一派则认为，除非预先向机器中进行输入，否则机器不会有任何输出。对这类讨论，维纳严厉地批评了那些认为机器不会获得智能的人，并认为“机器能够并肯定会超越它们的设计者的某些局限性……它们可能既高效又危险”。

在维纳发表其文章后不久，科幻作家的亚瑟·克拉克发表了《人类的退化》。他在文中指出，生物进化已经让位于一个更为快速的过程：技术进化。“直白而残酷地说，机器将会接管一切”。有杂志用一棵进化树阐明了这一切：从微生物到鱼类、恐龙、猴子、尼安德特人到现代人类，最后是机器。克拉克甚至提出：“不久的将来人类就会意识到，机器不仅可以思考，未来的某一天还会思考着如何离开地球。”

机器意识之觉醒

《西部世界》中也处处可见“控制论”的影子。特别是本剧结尾透出的机器人对于“意识”的探索，与控制论中“目标—搜寻”机制所要表达的思想不谋而合；整个剧集中对于人与机器人关系的探索，亦与维纳“人与奴隶”的对比异曲同工。

我们应该如何看待“智能机器”这一新崛起的“物种”？在福特设计的最后一个剧情中，女主角之一迪乐芮意识到，“西部世界”是一个花园、是一个牢笼，而机器人们就像是《罗素姆万能机器人》中被置入了特定功能的“人造工人”。机器人接待员们，为了苦苦追寻它们内置的目标而活，原地打转，始终不得脱离这一牢笼——像是人类豢养的宠物甚至奴隶。

同样的目标—搜寻机制，表现在剧中的泰迪身上，是对迪乐芮义无反顾的寻找与保护；表现在另外一个“智力超常”的女主角梅芙身上，是对于女儿执着的爱。尽管极端渴望自由、极度渴望认识“人类”的世界到底是什么样子，但在该季最后，梅芙仍然决定回到“西部世界”，寻找她的女儿。就像剧中的“机器人上帝”罗伯特·福特所要表达的，目标是一个机器人所有身份认同之建立所围绕的基石(cornerstone)。而正是这种目标—搜索机制，促进了机器人意识的产生，使其具备了“人性”。梅芙的“人性”战胜了她被设置的目标。在西部世界中干尽坏事的William，在看到故事剧集中梅芙对于女儿的爱，挣扎着不肯死去的时候，亦感叹道：“和一个人一模一样”。

由此看来，问题的症结在于机器人是否真的会“意识觉醒”。我们假设，机器人有朝一日真的会觉醒，觉醒之后，机器人真的会洗刷人类并接管世界吗？虽然不无可能，但人与机器可能更倾向于一种互利共生的关系。《西部世界》中设定的机器人并没有自复制以及制造机器人接待员的能力，他们也将需要人类的帮助，实现长久的生存。就像提出了互联网思维的J.C.R. Licklider使用榕小蜂与无花果的关系来阐释人机关系一样：“人类更善于制定问题和答案、查明相关性以及在不可预见的紧急情况下作出适当反应；相比之下，机器更擅长准确地存储和检索大量信息、快速计算以及建立和记住例行的程序指令表”。或许未来，更重要的是，人与机器人，如何借助彼此的优势，实现互利共生。”

（作者系中国科学院自动化所博士、助理研究员）