超越《西部世界》:未来人与机器关系将驶向何方—新闻—科学网

 
作者:王晓 来源:科学网 www.sciencenet.cn 发布时间:2017/1/18 15:54:41
选择字号:
超越《西部世界》:未来人与机器关系将驶向何方

 

2016年,一部名为《西部世界》的HBO剧集在人工智能界与影视界同时掀起了一股风暴,脑洞大开的剧情、多线叙事的视角加上混搭的科幻与西部风格,使得该剧一上映便好评如潮。编剧从多角度探讨了目前人工智能领域极为关注的几个问题:机器能否以及何时“活过来”、机器能否以及何时超越人类、人与机器的关系将驶向何方。

剧本对前两个问题的设定十分清晰:首先,机器能够“活”过来,当机器产生意识的时候,他们就是“活生生”的了。其次,机器能够超越人类,剧中女主角之一“梅芙”淋漓尽致地体现了这一点,她通过威胁其修理员,获得了最高级的智力——至少超越了负责修理她的人类。而第三个问题,该剧则留下了巨大的悬念:它们的崛起会对人类的生存产生威胁吗?它们会接管人类的世界吗?

横跨一个世纪的讨论

关于机器与其创造者关系的话题,早在一个世纪之前就有讨论。1920年问世的捷克科幻小说《罗素姆万能机器人》讲述了一个机器人“觉醒”的故事,故事结局是机器人对其制造者发起反抗并最终与人类同归于尽,世界重新陷入了混沌。

1948年,维纳《控制论》出版,更引发了更多人对这一问题的思考。美国作家库尔特·冯内古特发表于1952年的《自动钢琴》就是其中的代表作,它描述了机器人在替代大部分人类的脑力劳动后,人类幡然醒悟并进行了一场与机器人对抗的起义故事。1955年,弗兰克·莱利的《赛博和福尔摩斯大法官》则预言了未来的法院里,智能高效的机器取代了人类法官。小说的结局是最新型的机器人法官因被要求计算梦的重要性而崩溃。

机器人能比人类更快、更精确地完成任务,而且不会生病、不会罢工、不会酗酒——它们几乎是理想的员工。这引起了诺贝尔文学奖得主波特兰·罗素的反思:“人类还有存在的必要吗?”

上世纪60年代关于机器是否能够获得智能的讨论,分为了两个派别。支持的一派认为机器一定能够,至少在某些方面能够超越人类智能;反对的一派则认为,除非预先向机器中进行输入,否则机器不会有任何输出。对这类讨论,维纳严厉地批评了那些认为机器不会获得智能的人,并认为“机器能够并肯定会超越它们的设计者的某些局限性……它们可能既高效又危险”。

在维纳发表其文章后不久,科幻作家的亚瑟·克拉克发表了《人类的退化》。他在文中指出,生物进化已经让位于一个更为快速的过程:技术进化。“直白而残酷地说,机器将会接管一切”。有杂志用一棵进化树阐明了这一切:从微生物到鱼类、恐龙、猴子、尼安德特人到现代人类,最后是机器。克拉克甚至提出:“不久的将来人类就会意识到,机器不仅可以思考,未来的某一天还会思考着如何离开地球。”

机器意识之觉醒

《西部世界》中也处处可见“控制论”的影子。特别是本剧结尾透出的机器人对于“意识”的探索,与控制论中“目标—搜寻”机制所要表达的思想不谋而合;整个剧集中对于人与机器人关系的探索,亦与维纳“人与奴隶”的对比异曲同工。

我们应该如何看待“智能机器”这一新崛起的“物种”?在福特设计的最后一个剧情中,女主角之一迪乐芮意识到,“西部世界”是一个花园、是一个牢笼,而机器人们就像是《罗素姆万能机器人》中被置入了特定功能的“人造工人”。机器人接待员们,为了苦苦追寻它们内置的目标而活,原地打转,始终不得脱离这一牢笼——像是人类豢养的宠物甚至奴隶。

同样的目标—搜寻机制,表现在剧中的泰迪身上,是对迪乐芮义无反顾的寻找与保护;表现在另外一个“智力超常”的女主角梅芙身上,是对于女儿执着的爱。尽管极端渴望自由、极度渴望认识“人类”的世界到底是什么样子,但在该季最后,梅芙仍然决定回到“西部世界”,寻找她的女儿。就像剧中的“机器人上帝”罗伯特·福特所要表达的,目标是一个机器人所有身份认同之建立所围绕的基石(cornerstone)。而正是这种目标—搜索机制,促进了机器人意识的产生,使其具备了“人性”。梅芙的“人性”战胜了她被设置的目标。在西部世界中干尽坏事的William,在看到故事剧集中梅芙对于女儿的爱,挣扎着不肯死去的时候,亦感叹道:“和一个人一模一样”。

由此看来,问题的症结在于机器人是否真的会“意识觉醒”。我们假设,机器人有朝一日真的会觉醒,觉醒之后,机器人真的会洗刷人类并接管世界吗?虽然不无可能,但人与机器可能更倾向于一种互利共生的关系。《西部世界》中设定的机器人并没有自复制以及制造机器人接待员的能力,他们也将需要人类的帮助,实现长久的生存。就像提出了互联网思维的J.C.R. Licklider使用榕小蜂与无花果的关系来阐释人机关系一样:“人类更善于制定问题和答案、查明相关性以及在不可预见的紧急情况下作出适当反应;相比之下,机器更擅长准确地存储和检索大量信息、快速计算以及建立和记住例行的程序指令表”。或许未来,更重要的是,人与机器人,如何借助彼此的优势,实现互利共生。”

(作者系中国科学院自动化所博士、助理研究员)

 
 打印  发E-mail给: 
    
 
以下评论只代表网友个人观点,不代表科学网观点。 

目前已有0条评论
相关新闻 相关论文

图片新闻
科学家努力遏制机器学习带来社会不公平 脂肪记录史前灾难
刚果(金)埃博拉疫情沉重打击医务工作者 伊朗学生抗议美国缓发签证
>>更多
 
一周新闻排行 一周新闻评论排行
 
编辑部推荐博文
 
论坛推荐