作者:毛黎 来源:科技日报 发布时间:2010-7-29 12:17:05
选择字号:
美打破“太字节障碍” 创数据分类速度纪录

 
美国加州大学计算机科学家打破了“太字节(Terabyte)障碍”,创造了在60秒内对超过太字节数据进行分类的世界纪录。在被誉为“数据分类的世界杯”的“分类基准”比赛中,他们还追平了最快数据分类率的世界纪录,172分钟内数据分类量达到1万亿字节,不过使用的计算机资源只有原纪录创造者计算机资源的1/4。
 
寻求新趋势、高效率和其他竞争优势的公司致力于发展大数据量的分类途径,通常此项工作需要超强的数据中心。互联网的运行显示了数据分类的重要性,社会网络的广告、亚马逊网站的推荐以及谷歌的搜索结果均源自对多达数拍字节(petabyte)数据组的分类。1拍字节等于1000太字节。
 
研究项目负责人、加州大学圣地亚哥分校计算机科学教授阿敏·瓦达特表示,如果某家大公司需要查询所有相关的网页或产品销售,这需要对多达数拍字节的数据组进行分类,而数据组本身每天可呈千兆字节的速度增长。公司在不断地将其数据分类的数量和速度推向极限。瓦达特认为,实时的数据分析需要更好的分类技术。在数据中心,分类常常是许多更高级活动的“瓶颈”。
 
计算机科学家面对的数据分类挑战不同于其他的利用现成数据库软件参加的比赛,它们之间最大的差异是在太字节和拍字节分类中,数据远远超过了计算机做分类所具有的内存容量。为了建立自己的大数据量分类系统,瓦达特他们专门设计了高速且平衡的计算机系统。所谓平衡系统是指系统内的技术资源如内存、存储和网络宽带等被全量使用,做到尽可能没有浪费。
 
为打破“太字节障碍”,瓦达特他们建立的计算机系统拥有52个计算机节点,每个节点为1台装有两个4核处理器的服务器,其内存为24千兆字节,16块每块为500千兆字节的硬盘组成了存储空间。作为合作者,美国思科公司为研究小组提供了Nexus 5020交换机。
 
 
 
 
特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。
 
 打印  发E-mail给: 
    
 
以下评论只代表网友个人观点,不代表科学网观点。 
SSI ļʱ
 
读后感言:

验证码:
相关新闻 相关论文

图片新闻
中国超重元素研究加速器装置刷新纪录 彩色油菜花又添7色!总花色达70种
考研复试,导师心仪这样的学生! 地球刚刚经历最热2月
>>更多
 
一周新闻排行 一周新闻评论排行
 
编辑部推荐博文
 
论坛推荐