作者:赵广立 来源:科学网微信公众号 发布时间:2024/4/17 20:22:17
选择字号:
“弱智吧”帖子训练AI效果遥遥领先?研究团队回应

 

白岳霖和他的小伙伴们实在想不到,他们最近做的中文指令微调数据集,会因为使用了百度贴吧“弱智吧”的帖子相关数据而火爆“出圈”。

白岳霖是中国科学院深圳先进技术研究院三年级硕士生。他的团队在题为“COIG-CQIA: Quality is All You Need for Chinese Instruction Fine-tuning”的研究中,使用“弱智吧标题+GPT-4回答”微调后的大模型评估结果,超过了他们收集的其他有监督微调(SFT)指令集数据。后者来自包括知乎、百科、豆瓣、小红书等社交平台。对此,业内人士表示“看论文看到哈哈大笑”。

网友纷纷跟帖评论:“这把‘弱智吧’上大分”“大智若愚”“‘弱智吧’才是人类面对AI的最后一道堡垒”。

“没想到这个工作‘出圈’了,但网上存在一些错误解读,比如有人拿这个研究调侃‘知乎不如弱智吧’。”作为论文共同第一作者,白岳霖告诉《中国科学报》,这篇文章的作者来自国内外多个顶尖机构,“考虑到团队学术声誉与社会影响,这些误读有必要澄清一下”。

白岳霖

“上大分”的不是“弱智吧”

“弱智吧”是百度贴吧的一个子论坛。在这个论坛中,用户经常发布包含双关语、多义词、因果倒置和谐音词等具有挑战性的内容,很多内容设计有逻辑陷阱,即使对人类来说也颇具挑战。

弱智吧帖子标题的风格大概如下:

“一个半小时是几个半小时?”

“陨石为什么总是落在陨石坑里?”

“人如果只剩一个心脏还能活吗?”

“蓝牙耳机坏了,去医院挂耳科还是牙科?”

还有一些幽默发言角度清奇:“生鱼片是死鱼片”“等红灯是在等绿灯”“咖啡因来自咖啡果”“救火是在灭火”“指南针主要是指北”“小明打开水龙头是因为开水龙头烫到了小明的手”……

“弱智吧”截图

正因为“弱智吧”中许多提问脑洞大开,这些问题常被用来测试大模型的能力。

这样的语料数据,自然也逃不过研究团队的“法眼”。

此外,《中国科学报》了解到,这支研究团队的平均年龄只有20多岁,大多为在读硕士生和博士生。他们经常光顾知乎、豆瓣、小红书等平台,当然也少不了“弱智吧”。

当他们决定“手搓”一个高质量的中文指令微调数据集时,“弱智吧”相关语料自然地成为他们的一个选择。

不过,并不像传说的那样——“弱智吧8项测试第一,远超知乎豆瓣小红书”“竟成最佳中文AI训练数据”。实际上,在Yi-34B大模型上表现上佳的,不单纯是“弱智吧”。具体来说,弱智吧只贡献了个标题。

论文提到,研究团队收集了“弱智吧”上点赞数最多的500个帖子,并使用这些帖子的标题作为指令,使用GPT-4生成相应的回复。而对于由GPT-4生成的回复,研究团队还进行了人工审核、优化与筛选,并最终获得了240对(指令,响应)样本。使用这240对样本训练过的Yi-34B大模型,在Belle-Eval测试集上录得高分。

Ruozhiba来源的数据集训练效果遥遥领先于其他数据源。图片截自论文

要指出的是,除“弱智吧”之外,知乎、小红书、豆瓣、百科等来源的数据,研究团队并没有借助GPT-4去生成回答,而是采用严格的数据过滤,最大程度保留网络中人类撰写的高质量内容。

以拥有大量高质量用户生产内容的知乎为例,研究团队设置了“高赞回答”等筛选条件,经内容过滤、评分后,即采用得分较高的原内容。

相形之下,研究团队仅使用弱智吧帖子的标题作为训练大模型的指令,完全没有包含网友的回帖和评论,而是使用GPT4辅助人工构造了回复答案。

因此,面对网上“‘弱智吧’上大分”之类的言论,白岳霖回应说:“网络上的宣传过分夸大事实。”

“许多读者误以为我们使用‘弱智吧’网友的评论训练大模型就可以达到很好的效果,事实上,我们仅保留了弱智吧帖子的标题。”白岳霖说:“实验结果并不能代表弱智吧,因为数据实际上相当于多方(网友、作者们和大模型系统)协同构造的。”

对各平台来源的数据“跑分”并非研究本意

研究团队为何仅针对“弱智吧”作文章?

“因为我们的目标是构建符合大模型指令微调质量需求的数据,而贴吧中网友的评论通常不适合直接作为微调数据,因此我们并没有将‘弱智吧’网友的评论纳入我们的数据中。”白岳霖告诉《中国科学报》。

论文通讯作者、加拿大滑铁卢大学博士生张舸进一步向《中国科学报》解释:“‘弱智吧’中网友们绞尽脑汁想出来的‘弱智问题’,的确为大模型提供了角度清奇的高质量指令。但是帖子的回答,却有很多冒犯性表述甚至事实性错误,许多回答就是抖机灵、玩梗的,而GPT-4的回答基本上都‘很正经’,经过人工筛选基本上能得到较为可靠的回答。”

张舸

由于对“弱智吧”数据的“区别对待”在传播中很难被关注到,吃瓜群众很容易就对这项工作产生了误读,认为仅使用“弱智吧”的内容就能将大模型训练出远超其他平台的效果。

白岳霖进一步谈到:“我们的实验结果也不能完全代表互联网中的各个平台,任何关于平台对立的情绪都不是我们想要探讨或者希望看到的。”

不过,也正是研究团队对“弱智吧”数据的特殊操作,在论文内容发酵后引发了相关人士对实验结果的质疑。

有质疑者提出:来自知乎、豆瓣等平台的其它子数据集采样了原内容和网友评论,只有“弱智吧”的子数据集完全不包括网友的评论、而是采用了GPT-4合成的回答——这样的回答明显更完善、准确、多样,且最终来评分的居然还是GPT-4。“既当运动员又当裁判员,Evaluation bias(评估偏见)不会爆炸吗?用这种操作误导公众、获取流量,是不是有点过于不严谨了?”

对于这一诘问,白岳霖也给出了正面回应。

“获取流量并不是我们的初衷,我们也无意哗众取宠,更没有计划或安排任何宣传内容,我们的初衷只是想默默为中文NLP(自然语言处理)社区贡献些高质量数据集;对平台‘跑分’的实验本意,是想观察各平台数据对于测试集中各任务都有哪些影响。”白岳霖解释说。

至于为何只有“弱智吧”子集不包括网友评论,正如前述所提到的,也是出于“弱智吧”部分网友评论经判断达不到训练语言模型的回答质量标准,因此决定重新构造回答。而使用GPT-4辅助构造回答,则主要是为了尽可能减少人力投入。白岳霖同时表示,已经注意到有关评估偏见的问题,他们计划在下一版论文更新中“补充人工评估实验”。

张舸告诉《中国科学报》,“手搓”一个通用的、高质量的中文指令微调数据集,需要做大量筛选、检查和调优的工作,“是个体力活儿”,能寻求机器帮忙的当然不会放过。

一切为了“更适合中国宝宝的AI”

张舸是这项研究的核心人物,他也是COIG(Chinese Open Instruction Generalist,中文开源指令数据集)系列工作的发起人之一。

谈及发起这项研究的初衷,他告诉《中国科学报》,国内在有关中文指令微调数据集方面,目前还没有质量特别好的开源项目,个别项目也只是“勉强能用”,因此萌生了给业界提供一个完全开源的、包含中文社交媒体数据等在内各种来源的、可以直接微调大模型的数据集的想法。

通过筛选收集,构建出具有挑战性的、真实的中文语料互动数据,对于训练和评估大语言模型理解和执行中文指令的能力而言,无疑是极具价值的。最直接地,将有利于减少大模型在回答中出现“幻觉”(模型在输出文本时出现的一些并不符合事实或常识的内容)。

在这项工作中,作者团队构建了一个包含4万多条高质量数据的中文指令微调数据集,并将其开源给研究机构、企业等各方,为中文NLP社区提供了宝贵的资源。

然而,这项工作繁琐复杂,不仅要去各个平台“爬取”高质量的内容数据,还需要运用各种技术手段清洗、审核,工作量非常大,需要群策群力。因此,该工作的作者团队就达20人。

团队中,除了来自中国科学院深圳先进技术研究院的白岳霖外,还有来自中国科学院自动化研究所、中国科学技术大学、北京大学、加拿大滑铁卢大学、曼彻斯特大学等顶尖机构的成员,因此这项工作被网友们戏称为是国内外研究天团“为了开发出适合中国宝宝体质的AI”之作。

《中国科学报》进一步了解到,这群年轻人从2023年11月起着手该研究,仅用了不到4个月就完成了几乎全部工作。如此高效率的表现,他们是怎样组织协作的?

“我们创建了一个致力于多模态AI的开源社区—— M-A-P(Multimodal Art Projection),没有线下实体、没有任何盈利目的,只要能来一起做事情,我们就欢迎。”张舸介绍说,两年多前,他和几位小伙伴因一个音乐类大模型训练项目走到了一起,共同创办了M-A-P。之后,朋友、朋友的朋友、朋友的朋友的朋友……感兴趣加入的小伙伴越来越多,就形成了一个有稳定贡献的开源社区。

他告诉记者,在M-A-P社区,大家发起一个课题后,就寻求合作者一起做;如果涉及到一些资源需求,大家会和科技公司等洽谈,公司若愿意投入资源,可以一起合作、共同开发。但前提是,项目完成之后,公司除保留一些私有资源外,必须将项目成果共享给开源社区。

“我们所有项目的目标,都是能够做出来一些好东西开源给大家用。”张舸说,开源社区具有高校院所和企业所不具备的灵活性和纯粹性,此次中文指令微调数据集(CQIA)的工作,就是在M-A-P社区发起、逐步汇聚了国内外科研力量完成的。

张舸坦言,这项工作从发起到完成,一些参与的小伙伴他甚至都没见过面。

(中国科学院自动化研究所在读博士生梁燚铭(论文共同第一作者)对本文亦有贡献)

相关论文信息:

https://arxiv.org/abs/2403.18058

 
特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
科学网APP推出论文&基金全新活动 冰表面长啥样?原子级分辨图像揭晓答案
北方中纬高频雷达网发布首批科学探测结果 “双星计划”:开启中国空间科学新纪元
>>更多
 
一周新闻排行
 
编辑部推荐博文