随着人工智能(AI)技术的飞速发展,通用人工智能乃至超级智能已不再仅仅是科幻想象,正逐渐成为需要严肃面对的现实议题。围绕这一议题, 上海论坛分论坛“超级智能机器、技术想象与人类未来”于4月26日在复旦大学举办。
《超级智能:少数派报告》在本次分论坛上发布。本报告由复旦大学教授杨庆峰领衔,来自中山大学、苏州大学、上海社会科学院、复旦大学等高校教师参与了撰写。
《超级智能:少数派报告》内容分为超级智能的历史想象、现实分析与未来应对。报告中提出了超级智能的比较解释、实体解释和功能解释等类型,并对超级智能可能的风险,从技术、哲学和伦理三个维度提出了应对超级智能的综合方案。技术层面,报告讨论了价值对齐、模型崩溃、模型蒸馏及科学家AI等策略;哲学层面,探讨了存在的升级、风险控制及以人为目的等应对思路;伦理层面,在反思美德伦理、责任伦理和设计伦理的基础上,创新性地提出了将“智能契约伦理”作为处理未来人类与超级智能关系的新伦理框架。
《超级智能:少数派报告》提出,应将超级智能视为一个日益迫近的现实问题,而非仅仅停留在科幻想象或生存焦虑的建构层面。报告同时认为,承认超级智能现实性的观点虽仍属“少数派”,但这部分意见却日益显现出其真理性和紧迫性。
版权声明:凡本网注明“来源:中国科学报、科学网、科学新闻杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。