综述:
根据一项特别报道,新型超级计算机Wrangler正帮助研发人员加速大数据发展和取得新发现。超级计算机Wrangler设计的更加用户友好型,用网页驱动的方法实现高性能的计算,包括数据分析。
处理大数据有时候对需要快速和超级计算的研究人员来说就像没有铺平的道路。
“当你处于数据的世界,路上充满了岩石和碰撞,有许多事情需要关心,”前哈勃太空望远镜科学家现在是德克萨斯高级计算中心(TACC)数据密集计算小组的领导的Niall Gaffney如是说。
Gaffney努力使新的超级计算机Wrangler上线,像以前驯服野马的西部牛仔一样,Wrangler驯服的是大数据,比如包含分析成千上万文件的计算问题,这些文件需要快速打开检查并相关分析。
Wrangler填平了由(NSF)美国国家科学基金支持的XSEDE(极端科学和工程发现环境)的超级计算资源的缺陷,XSEDE是先进数字资源的集合,科学家们可以共享这些数字,分析产生于每一个领域研究的大规模数据集。2013年,NSF奖励TACC和它的学术合作伙伴印第安纳大学和芝加哥大学1120万美金,用以建立和经营Wrangler,处理数据密集高性能计算的超级计算机。
Wrangler被设计用来与Stampede超级计算机密切合作的,根据每年两次的500强排名,Stampede超级计算机能力排名第十,并且是奥斯丁德克萨斯大学TACC的旗舰产品。自2013年上线以来,Stampede完成了开放科学600万次计算工作。
“我们保持了与Stampede系统很好的兼容性,” Gaffney说:“但是添加了一些新的东西,比如超大规模闪存系统、超大规模分布式旋转光盘存储系统和高速网络访问,这使得那些有不能被如Stampede和Lonestar系统解决的问题的人能够用他们之前没尝试的方法解决。”
Gaffney做了一个对比,Stampede那样的计算机像赛车跑车,神奇的计算引擎最优化以在光滑的跑道上快速前进,另一方面,Wrangler更像是拉力赛车,在没有铺平的崎岖的道路上快速行进。
“如果你开一辆法拉利参加越野赛,会想改变道路,” Gaffney说:“你想改变整辆车组装在一起的方式,即使使用相同的组件,要适合于人们不同的用途。”
Wrangler的核心是600兆兆字节的闪存,通过其超过3000个Haswell计算核心PCI(外部控制器接口)互联共享。Gaffney说:“系统的所有部分都可以访问相同的存储空间,他们可以在这些数据上进行并行操作,这些数据存储在这个高速存储系统中,以获得他们在其他地方不能获得的结果。”
这些大量的闪存来自于DSSD,DSSD是由Sun Microsystems的Andy Bechtolsheim联合创立的公司,2015年5月获得了EMC。
Bechtolsheim在TACC的影响追溯到他领导的‘Magnum’无线网络带宽交换机,是为了Stampede的前身已经退役的Ranger超级计算机设计的。
DSSD在CPU和数据之间选择了一个捷径,这一点是比较新颖的,“计算机的大脑直接连接到存储系统,中间没有转接,” Gaffney说:“它实际上允许使用一些你能轻松得到的快速存储器直接计算,两个之间没有问题。”
加速了基因分析途径
Gaffney回想起了科学家们面对OrthoMCL时遇到的问题,OrthoMCL可以分析来自于从看似不相关的物种发现相似的基因血统的DNA序列,问题就是OrthoMCL会像一匹难以驯服的野马一样释放数据。
“它产生了海量的数据,外部运行计算程序,而且必须与这些数据进行交互,” 德州大学奥斯汀分校综合生物学系和计算生物学及生物信息学中心的生物学家Rebecca Young说。她补充道:“这不是Lonestar、Stampede以及其他一些TACC的资源设立的目的。”
Young讲述了如何第一次借助网络资源使用OrthoMCL,她只能从10个物种中找出350条类似的基因,“当我在Wrangler上运行OrthoMCL时,我能在这些物种中得到差不多2000个类似的基因,” Young说,“从已经能达到的程度来说这是一个巨大的进步,我们使用OrthoMCL的目的就是允许我们在关注这些4.5亿年进化过程中分离的相异的古老的物种时可以得到越来越多相似的基因。”
“现在我们可以在任何地方15分钟到6小时之间完成这些任务了” Gaffney说:“Wrangler改变了游戏规则。”
Gaffney补充说快速得到结果使科学家们通过分析大数据探索新的和更深的问题,驱动之前不能得到的发现。
优化建筑的能源效率
美国橡树岭国家实验室(ORNL)计算机科学家Joshua New希望利用Wrangler能力的优势驯服大数据。New是Autotune项目的主要负责人,Autotune项目创建了一个建筑物的软件模型,校准来自不同数据源的超过3000个数据输入,比如费用单,生成一个有用的信息,比如最优的节能改造是什么样的。
“Wrangler有足够的马力,我们在一次运行中可以进行许多大量的研究并得到有用的结果,”New说。他最近使用ORNL的Titan超级计算机进行500000次模拟并在68分钟时间内像磁盘写了45TB数据。他说他想扩展他的参数研究,模拟美国全部的1.251亿个建筑物。
“我认为Wrangler为我们提供了一个特殊的有利可图的市场,我们把我们的分析转向了端对端的流程,在这个流程中我们定义我们想改变的参数,”New说:“它生成了采样矩阵,他生成了输入文件,它计算所有计算上有挑战性的任务,并行运行所有的模拟仿真,它生成了输出,然后我们运行我们的人工智能和统计技术,在后端分析数据,在Wrangler以可靠的流程上自始至终做这些工作是我们非常兴奋的。”
当Gaffney说起Wrangler的存储的时候,说是非常大的数据存储空间——10拍字节基于Lustre的文件系统服务器由TACC托管,印第安纳大学有复制品。“我们希望保存数据,” Gaffney说:“Wrangler系统的建立使数据是首要的部分,在这些数据之间人们进行他们的研究,允许我们紧紧抓住数据,并与他人分享,这些正是我们希望Wrangler做的。”
解释暗能量
“数据是我们项目最大的挑战,” 德州大学奥斯汀分校天文学家Steve Finkelstein说。他的国家科学基金项目叫做HETDEX,望远镜暗能量实验。这是所尝试的最大的星系研究,科学家们希望绘制超过100万星系的三维地图,在这个过程中会发现上千个新的星系,主要的目标是研究暗能量,使星系分离的神秘的力量。
Wrangler超级计算机
数据密集型超级计算机系统Wrangler正在部署
“每天晚上我们都观察——我们计划至少三年每晚观察——我们计划得到200GB的数据,”Finkelstein说。每六分钟就会测量天光的34000点的频谱。
“Wrangler是我们的解决通道,” Finkelstein说:“随着数据进来,Wrangler有一个小程序寻找新的数据,每六分钟左右的数据进来,就会处理这些数据,天亮的时候Wrangler就会得到全部的数据,发现新的星系。”
在生化资料中的人类起源
Wrangler支持另一个高性能计算的例子是一个称作PaleCore的国家科学基金支持的科学项目。该项目希望利用Wrangler的数据库的敏捷性为科学家建立一个知识库,科学家们可以在所有与人类起源有关的化石挖掘清晰额地理空间信息。这样能结合以前的数字集合方式比如Excel表单和SQL数据库,使用新的数据收集方法比如从手机或ipad上收集实时化石GPS信息。
“我们正在关联开放数据发现一个巨大的机会,” PaleCore项目负责人Denne Reed说。Reed是德州大学奥斯汀分校人类学系副教授。
关联开放数据允许从看似竟然不同的数据的联系中找寻意义。“Wrangler是一个可以完成这些的平台,” Reed说,“它使我们存储大量的数据,无论是照片图像、卫星图像还是与地理空间数据相关的数据等,它还允许我们开始寻找有效的实时链接存储的其他数据的方法。”
科学数据分析
Wrangler的共享内存支持Hadoop和Apache Spark框架的数据分析,“Hadoop是一个现在所有数据科学的流行词语,” Gaffney 说,“这些我们都有,我们还可以配置这个系统,本质上像现在的谷歌搜索引擎在数据中心,最大的区别就是我们在同一时间服务少量用户,这与谷歌是不同的。”
用户以最快的方式向Wrangler存入取出数据,Wrangler连向Internet2,Internet2是向全国大部分其他学术机构每秒提供100千兆字节吞吐量的光纤网络。
除此之外,TACC有工具和技术并行转换他们的数据。“有点像在超级市场,” Gaffney解释道,“如果只开通一个结账通道,最快也只有一个人结账,但如果你进去并且开通15个结账出口,可以分散人流,可以在更少的时间让更多的人通过。”
超级计算机新的用户群体
生物学家、天文学家、能量效率专家和古生物学家仅仅是Wrangler试图吸引的新用户群体的一小部分。
Wrangler比典型的高性能计算更好的网络功能,门户网站允许用户管理系统,并给比如VNC、RStudio和Jupyter Notebooks的网站界面能力以支持更多类似桌面的用户与系统的交互。
“我们科学需要这些更大的系统,” Gaffney说,“我们需要更多种类的系统,我们需要更多种类的用户。这是我们正要推动这些种类门户的地方,我相信这对许多我们现在正要推进的系统将是新的面孔,更多的网络驱动,更多的图解,更少的命令行驱动。”
“国家科学基金会与TACC共同分享Wrangler持续的世界领先的吞吐性能的自豪,特殊性的开放科学社区可利用的运营型资源,推动关注数据的研究,”监督NSF奖的项目官员Robert Chadduck说。
Wrangler正在引领数据密集型科学研究中计算问题,“有一些伟大的系统和伟大的研究人员为了改变我们生活的方式和我们生活的世界,正在做一些与数据有关的开创性的非常重要的工作。” Wrangler正在推进分享这些成果,所以每个人都可以看到正在发生什么。