来源:中国科学院上海天文台 发布时间:2016/4/19 14:32:36
选择字号:
平方公里阵列射电望远镜数据处理能力研究获进展

 

近年来,全球最大的天文学国际合作项目“平方公里阵列射电望远镜(Square Kilometre Array,简称SKA)”已被列为我国重点发展的大科学工程。SKA取得预期科学成果的关键在于科学数据处理能力。SKA超大规模的数据运算遭遇到I/O吞吐和数据实时存储的限制等重大瓶颈问题,常规的数据运算解决方案是采用I/O并行化来提高数据读取速度,但对于SKA产生的海量数据来说,大规模并行存储底层I/O技术成为SKA科学数据国际工作组亟待攻克的重大技术难题之一。

在中国科学院院士武向平指导下,中国科学院上海天文台研究员安涛带领的SKA科学数据处理团队和澳大利亚国际射电天文研究所(ICRAR)教授Andreas Wicenec领导的团队合作开发基于ADIOS的并行Casacore Table Data System (CTDS)。合作团队开发了Adios Storage Manager (AdiosStMan)数据存储管理系统以作为中间件来实现天文数据处理软件与并行化I/O的连接,相对于已有的主流射电天文数据处理系统,AdiosStMan在数据底层采用了全新的I/O并行机制以实现高吞吐量的海量数据存取,从而有效地降低了在开发SKA科学数据处理器原型中所遇到的I/O瓶颈,并解除了当前射电天文数据处理系统在SKA数据处理管线系统中进行二次开发存在的限制,为SKA大规模并行存储底层I/O技术的开发提供了必要的经验。

在该项合作研究中,上海天文台承担了AdiosStMan后期的升级任务,本次升级最大的改进是将最大可写入Casa数据表的尺寸提高到TB量级。目前已经完成了改进版本并在澳大利亚Pawsey高性能计算中心的Magnus超级计算机上完成了性能测试,本次测试中可写入Casa数据表的尺寸已达到324GB(其中单节点的内存为128GB),在目前硬件平台上实现了100Gb/s量级的数据写入。该升级版本使用了多次打开ADIOS文件列的方法,从而有效地解决了原有版本对物理内存空间依赖的问题,突破了长期以来困扰的大规模数据并行读写的难题,使得AdiosStMan从概念验证阶段上升至实用样机阶段,该技术已达到国际领先水平。合作团队中的青年技术骨干劳保强和王若楠已将该改进版本发布至GitHub的SKA科学数据处理共享平台,得到了国际同行的重点关注。

 
 
 
特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。
 
 打印  发E-mail给: 
    
 
以下评论只代表网友个人观点,不代表科学网观点。 
SSI ļʱ
相关新闻 相关论文

图片新闻
中国超重元素研究加速器装置刷新纪录 彩色油菜花又添7色!总花色达70种
考研复试,导师心仪这样的学生! 地球刚刚经历最热2月
>>更多
 
一周新闻排行 一周新闻评论排行
 
编辑部推荐博文
 
论坛推荐