作者:沈春蕾 来源:中国科学报 发布时间:2023/3/26 14:07:51
选择字号:
哪张图是真人?自动检测工具来了

 

下面四张图只有一张是真人,其它都是Midjourney画的,你能猜出是哪张吗?

  ?

Adam fard在社交媒体上留下上述无奖竞猜题 受访者供图

日前,Midjourney公司发布了第五版商业AI(人工智能)图像生成服务(以下简称Midjourney V5),颇受网友关注,该公司设计师Adam fard在社交媒体上留下上述无奖竞猜题。

“稍等,我先预约下眼科”“Midjourney顺便帮我生成一双眼睛吧”……网友们的摆烂式回复不约而同地暗示——人类的肉眼似乎已经无法抵御AI的魔法攻击。

然而,中科睿鉴技术团队很快就给出了正确答案——只有小女孩是真人!中科睿鉴成立于2020年,其核心成员来自中国科学院计算技术研究所数字内容合成与伪造检测实验室,长期深耕虚假伪造检测技术的研发。

“打败魔法还得是魔法本身,反制AI还得靠AI。”中科睿鉴技术总监金志威向《中国科学报》介绍,技术团队开发的图像生成内容检测工具“睿鉴图灵”可以针对Midjourney生成内容检测结果。


“睿鉴图灵”针对Midjourney生成内容的检测结果 受访者供图

据悉,在ChatGPT 4发布仅一周内,中科睿鉴技术团队就迅速上线了针对ChatGPT 4生成文本内容的检测工具“睿鉴图灵”。

“在此之前,我们已经完成面向文本、图像、音视频伪造检测的全技术布局,上述伪造检测能力已经面向公众开放。”金志威表示,成立3年来,中科睿鉴面向公共安全、金融安全、互联网内容安全等重点行业,逐步积累了分行业、分场景的伪造检测能力,形成了核心技术——AI行业基础大模型的体系化能力底座,参数量级达到60亿。

金志威告诉《中国科学报》:“新的伪造生成技术一经面世,通过微调,就可在基座模型基础上针对性地迅速分化出相应的检测模型。”

数据的生成与检测互为对抗,也互相促进。如何精确、高效地“喂饱”模型、“喂好”模型,是让模型“成长为专家”的另一个关键。为此,中科睿鉴技术团队将数据生成的过程进行集成,研发了一个全自动化的数字内容生成平台。

此次,针对Midjourney V5的对抗式AIGC内容(利用人工智能技术来生成内容)检测模型训练框架,中科睿鉴技术团队在历时数月的训练数据准备阶段,基于多模态生成模型底座复现了十余种扩散模型,最终生成了TB级的高质量数据。

“我们当前整体使用的训练算力,相当于100张英伟达A100训练3个月。”金志威透露,未来中科睿鉴将通过算法突破、产品创新、系统搭建实现更多“必杀技”,打造新时代互联网数字内容安全基础设施,用技术让世界更可信。

 
版权声明:凡本网注明“来源:中国科学报、科学网、科学新闻杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
银河系发现巨大黑洞 史上最亮伽马射线暴来自一颗坍缩的恒星
中国天眼揭秘宇宙“随机烟花” 导师:年年审毕业论文,总有这些问题!
>>更多
 
一周新闻排行
 
编辑部推荐博文