科技行者

行者学院 转型私董会 科技行者专题报道 网红大战科技行者

知识库

知识库 安全导航

至顶网服务器频道深探曙光方案,详解“学习超市”

深探曙光方案,详解“学习超市”

  • 扫一扫
    分享文章到微信

  • 扫一扫
    关注官方公众号
    至顶头条

网络时代为服务器的应用提供了广阔的空间。服务器因此进入了技术、应用和市场互动并迅速发展的新阶段。服务器在网络中承担传输和处理大量数据的任务,要具备高可伸缩性、高可靠性、高可用性和高可管理性。

来源:ZDNet 2008年7月18日

关键字: RAID 服务器 新媒体 存储系统 刀片服务器 曙光

  • 评论
  • 分享微博
  • 分享邮件

网络时代为服务器的应用提供了广阔的空间。服务器因此进入了技术、应用和市场互动并迅速发展的新阶段。服务器在网络中承担传输和处理大量数据的任务,要具备高可伸缩性、高可靠性、高可用性和高可管理性。对于企业和网络信息提供商来说,无限增长的数据必须集中存储和处理,于是未来的网络发展呈现出集中计算的趋势。集中管理模式对服务器提出了新的要求:节约空间、便于集中管理、易于扩展和提供不间断的服务,成为对下一代服务器的新要求。刀片服务器(Blade Server )由此应运而生。

目前市场上刀片技术相对成熟的只有三家厂商,而曙光作为国内唯一一家具有刀片核心技术的厂商,不仅在技术上领先,在应用方面更是拔得头筹,在曙光与中国教育电视台合力打造的“学习超市”一期工程中,曙光刀片服务器在整个系统中大量使用,不仅达到了客户对性能的要求,在节能和可扩展性上面,更是保证了客户的最大利益。

“学习超市”需求详解

十七大报告提出“优先发展教育,建设人力资源强国”、“发展远程教育和继续教育,建设全民学习、终身学习的学习型社会”、“扶持贫困地区、民族地区教育”、“加快构建传输快捷、覆盖广泛的文化传播体系”等精神,建设“学习超市”教育新媒体平台是落实十七大的重要实际行动,具有重要的战略意义。

中国教育电视台基于前期数字化建设和新媒体的发展提出“学习超市”教育新媒体平台建设。其“定位”是形成中国教育电视的教育新媒体互动新频道,成为开放的知识创作、交易、共享、服务平台。“愿景”是满足大众终身学习的需求,通过搜索与互动,让每一个个人得到完整与高效的学习服务,为每一个个人都能成为培训服务者提供服务。“宗旨”是供丰富的内容,进行直观的展示,开展智能的服务,让人快乐地学习。“使命”是以学习超市为平台,建设一个“人人为我,我为人人”、“互学、互通、互动、互赢”的培训、学习空间,全面实现个人的社会价值。“重点满足”两方面的需求,一是满足国家公益性、义务性教育的需求,为广大农村、西部等欠发达地区共享教育文化信息服务,为国家部委服务,解决面向西部和农村开展大规模教育的困难点;二是满足发达地区优质信息共享需要,开展个性化学习、市场发展需求,以市场为导向,以个人为导向的非正式、非正规培训,重点包括企业培训、职业教育、学生第二课堂等。“最终目标”是为任何人在任何时间、任何地点提供想要的优质教育信息、培训产品和学习服务。

“学习超市”教育新媒体平台拟定将分三期建设,于2012年初步建成具备丰富资源的、融合多种网络、多种终端、多种传输路径的学习平台。

本次建设为“学习超市”教育新媒体平台一期系统建设。一期系统建成后将开展三个方面的应用:

一是网络富媒体互动新频道:基于教育电视资讯门户,依托中国教育电视台教育类节目资源(5路电视节目、12路远程教育节目、大型活动和教育新闻资讯),建立网络互动资讯门户,开展直播和点播。

二是个性化、差异化学习与培训平台:基于个性化教育社区门户,针对中国教育电视台自有版权已数字化转制的纪录片、科普教育、早期教育、教育资讯、文化艺术五类资源择优选择,按照知识点教学方式开展个性化学习培训。

三是行业资质培训平台:基于行业培训门户,与相关部委开展资质培训。与相关部委合作共同开发权威在职培训与资质项目,拟开展劳动力转移培训、职业资质培训等项目。
“学习超市”教育新媒体平台一期系统组成图示为:

深探曙光方案,详解“学习超市”
 
项目建设框架图示

“学习超市”教育新媒体平台一期系统架构为:

深探曙光方案,详解“学习超市”
 
系统架构图示

 “学习超市”教育新媒体平台一期系统招标分为两个包,A包是互动新频道门户网站、学习管理系统建设及系统集成;B包是开放式互动教育社区和3D虚拟社区建设。
本包“开放式互动教育社区和3D虚拟社区” 具体招标内容包括:
 建设开放式互动教育社区系统。
 建设3D虚拟第二学习空间系统。
 建设集群式文件存储系统。
 建设流媒体发布直播系统。
 建设新媒体互动室和3个新媒体直播授课室。
 新媒体互动室(120平米),3个新媒体直播授课室(各约30平米)包括机房布线等工程项目。
 配合完成学习超市教育新体平台一期系统集成。
在详细了解中央教育电视台对“学习超市”的需求后,曙光提出了“LoongStore集群存储方式+TC2600刀片服务器”的基本解决方案。

刀片服务器打造“尖峰系统”

中国教育电视台服务器硬件平台的设计目标是构造一个功能齐全、设备先进、运行高效、使用灵活、维护方便、易于扩展、投资少、安全可靠的服务器及网络系统。为实现上述目标,
曙光对刀片服务器的技术参数进行了适当的调整。

首先为实现存储系统的聚合数据访问带宽能够达到1.6GB/s,曙光提供的单套30TB的存储系统方案中,每个数据存储单元每秒钟可以输出有效用户数据达到200MB,共计10个数据存储单元可以同时为前端的应用服务器输出2GB数据,即聚合数据访问带宽可以达到2GB/s。突出特点是可以向应用服务器提供高达2GB/s的有效用户数据带宽,较传统的存储方案有很大的区别,传统的方案只是用了类似万兆网络这种高速互联网络,所提供的指标是物理网络带宽并非实际使用时有效的用户数据输出带宽。

其次为实现存储系统能够高效支持海量大目录,单目录下存放超过500万个文件。曙光提供的单套30TB存储系统方案中,采用两个可同时提供并发服务的元数据服务器,可以支持单个目录下存放超过1000万个文件。以往的存储系统由于无法满足这项指标,需要修改应用系统,把文件分散存储,极大增加了应用开发的难度,甚至造成已有应用系统无法使用,随着文件数量进一步增长,还需要进行多次的应用数据的迁移和重新部署,中断正常的应用服务。曙光提供的这项功能能够极大降低应用系统开发和维护的难度,确保应用系统长期高质量运行。

第三,为实现存储系统支持百万级大目录下每秒钟可以查询超过20000个文件。曙光建议客户存储系统的文件查询有别于百度等搜索系统的查询操作,建议客户搜索系统的查询只是对特定关键字相关的内容进行索引定位,存储系统的查询操作包括从文件系统中定位文件、打开文件并对其内容进行读写访问。

第四,曙光提供的存储方案在可靠性上的优势非常明显。首先全系统规模的高可靠:系统支持应用层、网络层、存储服务器层该三层次的任何单点故障,无需中断业务,无需用户参与,故障恢复速度是以往存储系统的5倍,同时恢复过程不影响系统的整体性能。另外,以往的存储系统都采用磁盘阵列加RAID功能的方式来提供数据高可用功能,只允许每台磁盘阵列里有一块或者两块硬盘出现故障,如果出现超过三块硬盘故障、阵列控制器故障和I/O服务器故障等常见情况中的任何一种,将造成用户数据无法访问甚至丢失。我方提供的存储方案中,超过三块硬盘出现故障不会影响系统的正常运行,并且在三台存储服务器同时发生故障的情况下也不会影响整个系统的正常运行。

最后,曙光提供的存储方案支持在线动态扩展存储空间,无须中断业务,新增的存储空间,即刻可以被前端应用服务器所使用,并提供基于策略的动态负载均衡,整体性能达到线性增长。另外曙光提供的存储方案支持标准LINUX接口,对现有各种应用完全透明,无需对应用系统做任何修改,可直接使用。

在本案中,曙光在刀片服务器方面的技术优势体现的非常明显。

最佳的服务器集群

众所周知,作为一种负载均衡技术,服务器集群已经在有效提高系统的稳定性和核心网络服务的性能方面被广泛采用,在集群系统中,若要提供更高端的运算和服务性能,只需增加更多的单元就可以获得更高的性能。更为重要的是,服务器集群还可以为任何一台单独的服务器提供冗余和容错功能。

目前IT行业正在大力发展适应宽带网络、功能强大可靠的计算机。在过去的几年里,宽带技术极大地丰富了信息高速公路的传输内容。服务器集群和RAID技术的诞生为计算机和数据池的互联网应用提供了一个新的解决方案,而其成本却远远低于传统的高端专用服务器和大型机。但是,服务器集群的集成能力低,管理这样的集群使很多管理员非常头疼。尤其是集群扩展的需求越来越大,维护这些服务器的工作量简直不可想像,包括服务器之间的内部连接和摆放空间的要求。这些物理因素都限制了集群的扩展。刀片服务器的出现适时地解决了这些问题。在集群模式下,刀片服务器所有的主板可以连接起来提供高速的网络环境,共享资源。同时每个刀片都可内置监视器和管理工具软件, 配置一台高密度服务器就可以解决一台到一百台服务器的管理问题,如果需要增加或者删除集群中的服务器,只要插入或拔出一块板即可,将维护时间减少到最小。就这个意义上来说,Blade Server从根本上克服了服务器集群的缺点。

实现机柜优化

刀片服务器将机柜式服务器所占用的空间密度再一次提高了50%,实现了机柜优化的自然飞跃。在机柜系统配置好的前提下,将1U机架优化服务器系统移植到刀片服务器上,所占用的空间只是原来的1/4~1/2。而在一个标准的机柜式环境里,刀片服务器的处理密度要提高四到五倍。比如在处理1024节点的高密度计算服务器环境里,采用1U服务器需要配置24个机柜,其中还不包括以太网交换集线器所占用的机柜空间,而采用高密度的刀片服务器只需要4个机柜,却包括了以太网交换机的空间。在相同的面积内,数据中心可以通过部署刀片服务器获得更多的服务器租赁收益。

另外,刀片服务器采用集中管理的方式,可以简化服务器的管理工作。在IT人员日益匮乏的今天,采用刀片服务器的企业可以减少雇佣工资高昂的服务器管理和维护人员,从而降低维护费用。还有,刀片服务器的低功耗设计也会显著减少能耗,节约能源的同时减少了费用。

低功耗

塔式服务器因为内部空间最为充裕,可以采用各种强调单一性能的设备,而不论其体积与功耗有多大,只要能够在充裕的空间内解决好散热问题就能轻松装入。机架式服务器不但在外形上进行了缩减,更重要的是它们都是标准身材,可以通过堆叠的方式安装在一个机架中,显著提高空间利用率,提高了单位体积内的计算密度。但是它仍然基于传统服务器部件,功耗和发热都没有减少,只是通过更优化的散热设计来满足工作需要。

低廉的成本

刀片服务器可以看成把所有的服务器系统的硬件──处理器、内存、硬盘机,以及网络联接设备一一整合到单一的扩充卡。这样的整合代表了更吸引人的另一选择:可以降低成本、降低温度并减少所需的空间,进一步的,还能改进服务器的稳定度与得到更低的整体拥有成本(TCO)。

解决线缆的困挠

除了节省空间外,刀片式服务器还带来了其它的好处,那就是减少过多的线缆。线缆管理是很多数据中心管理员的恶梦,你站在机器的前面看,会觉得各服务器造型美观典雅,但如果你走到机架后面,你会看到各种缠得乱槽槽的电源线、网络线、键盘线等等。在一个大的数据中心,维持环境整洁的费用越来高,你很难请大量薪水高昂的IT人员整天帮你把线缆拉来拉去或画出漂亮的布线图指出每根线缆该怎么放。由于刀片式服务器内部的各刀片间有内置的高速通讯通道,可以省去大量网卡和网线,同时,各刀片共享电源供应,可以节省大量的电源线,其结果是大大减少了线缆的数量。在一个传统的机架上,如果你要更换一台机器,需要走到机架后面,取下所有的电缆,拿出来,把新系统放进去然后重新插上所有的电缆,而使用刀片式服务器,只需取出旧的刀片,再插上新的,极为简单。


曙光LoongStore集群存储系统,稳定新典范
按照中国教育电视台对存储系统的要求,我们选择曙光LoongStore存储产品来实现。曙光LoongStore采用集群存储技术实现PB级的海量存储、数十G的高聚合带框,同时具有高可用性、易于扩展、易管理、通用性等特点,十分满足中国教育电视台对存储系统的要求。
曙光LoongStore 存储系统主要由应用服务器集群、元数据服务器集群、智能存储服务器集群三大部分组成。

深探曙光方案,详解“学习超市”


 
应用服务器集群:运行客户应用程序的集群,进行特定的计算、信息处理及业务服务等。
元数据服务器集群:管理文件系统的元数据(包括文件目录树组织、属性维护、文件操作日志记录、授权访问等),管理整个存储系统的命名空间,对外提供单一的系统映像。


智能存储服务器集群:存储用户的实际数据,是整个LoongStore存储系统的存储资源提供者。


曙光LoongStore在应用上有以下几个特点
海量存储:LoongStore 存储系统可提供PB级的存储空间,高效的管理上百亿个文件,单目录可以有效支持千万级的文件数量。
数据共享:采用全局命名空间,所有应用服务器看到一致视图,方便用户数据的统一管理,并简化应用系统的开发。
高性能:LoongStore 存储系统高效数据读写技术和文件查询技术能够提供高达几十个GB 的稳定聚合带宽以及每秒数十万个的文件查询效率。


高可用:独有的自动故障探测和高效的自动恢复和容错技术,保证了系统的高可用特性。
易扩展:LoongStore 存储系统提供了在线扩容功能,无需中断业务运行,同时系统的总体IO 带宽随着规模的扩大成线性增长。
多数据通路:LoongStore 存储系统可以同时使用多条高速数据通道,可消除网络层的单点故障,进一步提高系统的高可用性。
易管理:LoongStore 存储系统配有简单易用的图形化管理和监控界面,支持通过专用的安全通道进行远程配置和全系统监控。
低成本:无需专用存储硬件,利用各种通用硬件构建,大大的降低了存储系统的拥有成
本。


通用性:遵循POSIX 标准的文件级API 接口,提供完全标准的文件系统锁。

深探曙光方案,详解“学习超市”
 

图中SN1到SN10为存储服务器集群,MD1到MD2为元数据服务器集群

结语:
高性能计算技术的介入,推动了教育信息化的不断发展。在中国教育电视台的“学习超市”建成之后,新平台将实现随时随地随心所欲学习的最终目标。曙光公司为中国教育电视台提供的不仅是一个先进、完整、高管理、可扩展的解决方案,也是为教育信息化更快更好普及作出开山之作。此次曙光公司的成功部署,表明其所具备的行业实力已被认可,对于未来更多教育信息化平台的搭建,曙光公司有信心做的更好。

    • 评论
    • 分享微博
    • 分享邮件
    邮件订阅

    如果您非常迫切的想了解IT领域最新产品与技术信息,那么订阅至顶网技术邮件将是您的最佳途径之一。

    重磅专题
    往期文章
    最新文章