人工智能研究正面对更多道德审查,该领域的顶级会议NeurIPS开始要求与会者考虑其研究的社会影响。(图片来源:Michael Cohen/Getty)
12月,以在线形式召开的神经信息处理系统会议(NeurIPS)首次要求报告人在提交相关信息时附加一份声明,声明须考虑其研究对社会可能产生何种更广泛的影响,包括负面影响。
NeurIPS是人工智能领域的顶级会议,2020年的NeurIPS吸引了9467篇投稿。据《自然》报道,大会组织者还任命了一个评审小组审查那些引起道德争议的论文。290篇被标记的论文中,有4篇文章出于伦理考量最终被拒。
在该会议的最后一天,大会主办方还举行了特别会议,重点讨论人工智能对社会可能带来哪些更广泛的影响,包括呼吁研究人员在工作早期开展评估并减轻可能带来的危害,将道德关口前移等。一些技术公司也正在重新设计公司的产品开发流程。
2018年,NeurIPS曾放弃使用一些令人反感道德首字母缩写,并开始处理参会者的性别歧视行为,2019年的会议中,参会者对人工智能伦理和包容性进行了激烈讨论。
今年12月,前谷歌AI伦理专家格布鲁(Timnit Gebru)表示,在她与合作者共同撰写的论文引起争议后,她被谷歌解雇,而谷歌则表示已经接受她的辞职。格布鲁称自己从未提出辞职,只是表示若没有满足她在论文内部审核中提出的条件,她将辞职。这一事件导致许多研究者公开质疑谷歌在相关方面的道德承诺。
12月16日,美国国会议员致信谷歌首席执行官桑达尔·皮查伊(Sundar Pichai),并在信中指出该事件引发了更广泛的问题,“这些问题的答案可能会对我们立法者的工作产生意义深远的影响。”
版权声明:凡本网注明“来源:中国科学报、科学网、科学新闻杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。