作者:方晓 来源:澎湃新闻 发布时间:2023/12/20 13:57:41
选择字号:
错误信息超级传播者,全球AI假新闻网站7个月内激增十几倍

 

NewsGuard的团队已识别出614个不可靠的人工智能生成的新闻和信息网站,涵盖15种语言。其中一些网站每天会生成数百甚至数千篇文章。NewsGuard称其为下一个大型的“错误信息超级传播者”。

创建这些网站的动机各不相同。有些是为了动摇政治信仰或造成严重破坏,还有一些网站大量生产两极分化的内容来吸引点击并获取广告收入。

跟踪错误信息的组织NewsGuard 12月18日发布报告称,自5月以来,托管人工智能创建的虚假文章的网站增加了1000%以上,从49个网站激增至600多个。

此前,宣传活动一直依赖低薪工人大军或高度协调的情报组织来建立看似合法的网站。但人工智能让几乎任何人,无论是间谍机构的一员还是地下室里的青少年都可以轻松创建这些媒体,制作有时很难与真实新闻区分开来的内容。

迄今为止,NewsGuard的团队已识别出614个不可靠的人工智能生成的新闻和信息网站,标记为“UAINS”,涵盖15种语言:阿拉伯语、中文、捷克语、荷兰语、英语、法语、德语、印度尼西亚语、意大利语、韩语、葡萄牙语、西班牙语、他加禄语、泰语和土耳其语。

NewsGuard的一项调查发现,一篇由人工智能生成的文章讲述了有关以色列总理本杰明·内塔尼亚胡精神科医生的假故事,声称他已经去世,并留下一张纸条,暗示内塔尼亚胡参与其中。这位精神科医生似乎是虚构的,但该说法出现在伊朗电视节目中,并在阿拉伯语、英语和印度尼西亚语媒体的网站上转载,在社交平台TikTok、Reddit和Instagram上被用户传播。

伊朗国营电视台援引不可靠的人工智能生成的英文新闻网站GlobalVillageSpace.com来宣扬内塔尼亚胡的“精神科医生”自杀的错误说法。图片来源:NewsGuard


错误信息专家表示,这些网站的快速增长在2024年的各个选举前夕尤其令人担忧。“其中一些网站每天会生成数百甚至数千篇文章。”进行调查的NewsGuard研究员杰克·布鲁斯特(Jack Brewster)对媒体表示,“这就是为什么我们称其为下一个大型的错误信息超级传播者。”

今年9月,斯洛伐克进步党领袖米哈尔·西梅奇卡(Michal ?ime?ka)在选民投票前几天发现,他的声音被克隆,说出了他从未说过的有争议的话。两周后,英国工党领袖似乎被录下了在X(前身为Twitter)上斥责一名工作人员的充满脏话的长篇大论的录音。越来越多的网站,例如使用“iBusiness Day”或“爱尔兰热门新闻”等通用名称发布假新闻,使其看起来很真实。

发布“内塔尼亚胡精神科医生”文章的网站“地球村空间”也充满着各种严肃话题的文章。有一些文章详细介绍了美国对俄罗斯武器供应商的制裁,石油巨头沙特阿美公司在巴基斯坦的投资。该网站还包含中东智库专家、哈佛大学毕业的律师和该网站首席执行官、巴基斯坦电视新闻主播莫伊德·皮尔扎达(Moeed Pirzada)撰写的文章。布鲁斯特说,夹在这些普通故事中间的是人工智能生成的文章。

NewsGuard在调查期间联系该组织后,“内塔尼亚胡精神科医生”文章被重新标记为“讽刺”。NewsGuard表示,这个故事似乎是根据2010年6月发表的一篇讽刺文章改编的,该文章对一名以色列精神科医生的死亡做出了类似的说法。

将真实新闻和人工智能生成的新闻放在一起,会让欺骗性的故事更加可信。媒体和人工智能专家表示,类似“地球村空间”的网站可能会在2024年各种选举期间激增,成为传播错误信息的有效方式。

创建这些网站的动机各不相同。有些是为了动摇政治信仰或造成严重破坏。布鲁斯特说,还有一些网站大量生产两极分化的内容来吸引点击并获取广告收入。但他补充说,增强虚假内容的能力是一个重大的安全风险。

“危险在于人工智能的范围和规模……尤其是与更复杂的算法结合使用时。”美国辛辛那提大学错误信息专家兼新闻学教授杰弗里·布莱文斯(Jeffrey Blevins)对媒体表示,“这是一场我们从未见过的规模的信息战。”

布莱文斯表示,人们应该留意文章中的线索、“危险信号”,例如“非常奇怪的语法”或句子结构中的错误。但最有效的工具是提高普通读者的媒体素养。他补充说,监管基本上不存在,政府可能很难打击假新闻内容,就把这个问题留给了社交媒体公司,但它们迄今为止做得并不好。而快速处理此类网站是不可行的,因为它们重新创建的速度也很快。“这很像玩打地鼠游戏。”他说。

 
特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
中国科学家首次发现“无摩擦的冰” 冰表面长啥样?原子级分辨图像揭晓答案
北方中纬高频雷达网发布首批科学探测结果 “双星计划”:开启中国空间科学新纪元
>>更多
 
一周新闻排行
 
编辑部推荐博文