《智能革命后的世界：AI技术与人类社会的命运》，刘永谋著，重庆出版社2024年11月出版，定价：78元

■刘永谋

我的新书《智能革命后的世界：AI技术与人类社会的命运》，尝试对一些智能革命与人类未来的问题进行回答。它是我规划的“AI时代三部曲”的第一部，接下来的两部拟题为“AI性别”“AI与人”，前者聚焦“生活世界的智能化”，后者讨论“AI时代人的机器化”。

我为什么会执着于AI的跨学科反思？因为包括我在内，越来越多的学者认为，随着智能革命的急速推进，人类社会正在发生翻天覆地的变化。

对此，一些人欢欣鼓舞，自称为“机器人带路党”；而另一些人则深感末日来临，呼吁暂停甚至取缔某些AI研究。无论如何，极少有人否认智能革命的伟力正在彰显。

一

在我看来，人类社会自20世纪下半叶就已经进入机器人劳动社会。生成式人工智能（GAI）的兴起，标志着智能社会开始进入AI辅助生存社会。也就是说，很快人类就将处于AI辅助生存的环境中。在AI辅助生存社会中，人类的生活、学习和工作，比如规划旅游、给领导写稿子、学习编程，都将在AI的帮助下完成。

接下来，也许不需要100年时间，有人甚至预计是20年，机器人便有能力取代人类所有的体力劳动和绝大部分的脑力劳动。彼时，如果机器人火力全开，完全可以将科技生产力提升到今天的人们难以想象的高度。于是，AI辅助生存社会演化为AI替代劳动社会，理论上人类基本不再需要劳动。

按照马克思主义原理，以机器人劳动为基础的新质生产力，必然引发经济制度变革，接着是政治、社会、生态和文化等各个方面的全面革新。

比如，在经济方面，我们将面临两大问题。一是AI增长极限问题，即地球资源最终设定了人类经济增长的“天花板”，而24小时不眠不休的机器人劳动会很快抵达这一“天花板”。二是AI富裕社会问题，即AI科技生产力所生产的物质财富远远超过社会成员舒适生活所需时，问题的重心就会越来越急迫地转向如何公正而合理地分配，而不是之前的如何生产更多的产品。如果能处理好经济制度创新问题，接下来的问题就是：如此巨大的生产力不能仅限于满足人类的欲望，要不要寻找更高的发展目标，如何从地球文明向星际文明跃迁？

比如，在知识方面，人工智能驱动科研（AI for science）将极大提高科研活动的效率，有人甚至担心它会大量取代人类科研活动；而人工智能生产内容（AIGC）使得网上各种虚假信息泛滥。今天的问题已经不再是缺乏知识，相反人类社会开始患上“知识的冗余症”，知识带来的好处与它产生的麻烦开始处于相持状态。未来人们将越来越多地为知识太多而苦恼，我称之为“知识的银屑病”，搜索引擎便是医治此病的一味药。更重要的是，知识不仅过载，还出现质量越来越差的情况。

二

我认为，类似的分析还不够深入。我们正处于十字路口，从根本上说，在于智能革命改造自然和社会的力量深入到人本身。智人在肉身和观念两个方面正在发生巨变，某种“新人类”必定在智能革命之后登场。

在肉身方面，预计存在两种类型：一是赛博格，二是数字人。所谓赛博格进路，本质上是人与AI的融合，人类成为字面意义上的智能机器。所谓数字人进路，指的是一些人主张通过数字复活或意识上传的方式，使人在元宇宙中实现永生，人类彻底摆脱肉身的束缚。

智能革命对人类肉身的改变已经开始。比如，自我测量、量化自我越来越流行。手上戴着腕表，家里备着血压计、装着摄像头，吃东西有食谱，买东西看配料表，不断从自己身上攫取各种数据，与标准量表相对照，并设计科学的塑身方案。

随着智能革命不断推进，越来越多的人支持运用新科技对智人肉身进行改造或强化，即所谓“身心设计”。他们主要有3个理由：第一，想在机器人劳动社会中与AI进行劳动竞争，不至于成为“无用之人”，不得不进行身心设计。第二，AI不断“进化”，加剧智人身心的退化，如人越来越愚蠢，需要用身心设计遏止。第三，未来与硅基生命的竞争中，作为碳基生命的智人处于明显劣势，需要身心设计来扭转。

身心设计论者主张的是一条“人的机器化”之路。智能社会最大的问题，不再是机器的人化，而是人的机器化。更进一步，发生巨变的不仅是人的身体，我们的精神也在发生巨变。一言以蔽之，我称之为“科学人崛起”。

比如，越来越多的人讨论能动者、讨论机器人权利。这说明大家开始相信，人和机器人均为能动者，机器人也有权利，人只是另一种智能机器。

类似的新观念的流行，彰显出人对自身理解的现实转变。什么是人呢？人们不再信服哲学、文学、宗教、神话、巫术乃至迷信的解释，越来越多地求助于新科技对智人研究的新成果。人类行为与情感被还原为物理、化学和生物参数，将人性瑕疵视为正常的演化缺陷。譬如，爱情根本不是源于苔丝的纯情或卡门的疯狂，而是某些化学物质如多巴胺、内啡肽的分泌。

这些新成果勾勒出“科学人”的形象，而“人的机器化”不过是“科学人崛起”的实践表征。“科学人”的核心观念在于——人可以也应该被测量、控制和改造。那些关于人的不可测的东西，如灵魂、意志、心灵呢？它们将被斥责为多余的形而上学“阑尾”，迟早要全部被切除。

科学人相信，人形机器挺好的，纯洁而无辜，相反人却有一颗被玷污而蒙尘之心。韩国科幻剧《人类灭亡报告书》中有个情节，说的是寺庙中的机器人先于和尚得道涅槃，和尚们得向它请教。

三

在奔向未来的旅程中，存在一道巨大的“AI文明危崖”。21世纪以降，很多思想家都开始关切当下的文明是否存在全局性的崩溃，甚至灭绝的生存性风险，使得人类社会如跌落悬崖一般，突然陷入黑暗甚至永夜之中？这便是广为讨论的“文明危崖问题”。

经常被提及的生存性风险主要有气候变化、核战争和新发病毒，而超级AI的威胁并未被严肃对待。虽然我认为，AI的生存性风险的确很难排在前面，但是AI与全球性灾难融合在一起，将极大增加文明危崖的风险。比如，AI+核大战、AI+生化武器，以及GAI加剧能源危机等。

在AI时代，我们如何避免跌落文明危崖呢？人文研究应关注新科技发展对社会的冲击，尤其要预测风险、预见问题，提醒社会未雨绸缪，防患于未然，看护社会福祉和公众利益。无论何时，人类都要努力控制包括AI在内的所有新科技发展，使之有益于人类福祉。如果不确定AI的某一发展是否真正有益，就应该停止、转变和重置此种AI发展进路，此即我称之的“AI发展的有限主义进路”。从根本上说，这并非以人文为名阻碍新科技发展，而是以新科技健康发展为目标的保驾护航之举。

（作者系中国人民大学吴玉章讲席教授）