华为OceanStor-9000技术建议书(纯方案-17页)

('目录1.1项目背景...............................................................................................................................................21.2建设规模及目标...................................................................................................................................22设计依据及原则...........................................................................32.1方案设计原则.......................................................................................................................................33系统设计方案..............................................................................53.1客户面临问题及典型需求...................................................................................................................53.2系统设计方案.......................................................................................................................................63.3拓扑结构...............................................................................................................................................73.4软硬件配置说明...................................................................................................................................84方案特点及优势...........................................................................94.1弹性扩展...............................................................................................................................................94.2卓越性能.............................................................................................................................................104.3数据可靠.............................................................................................................................................114.4简化管理.............................................................................................................................................135相关产品介绍............................................................................155.1产品概述.............................................................................................................................................155.2产品形态介绍.....................................................................................................................................155.3产品规格表.........................................................................................................................................176缩略语表.................................................................................201设计依据及原则1.1方案设计原则通过对用户需求的了解，结合音频中心媒资系统的应用特点，建议用户存储系统在建设过程中应当遵循如下原则进行：安全可靠性原则\uf06c系统支持分布式架构\uf06c系统支持从硬件层面，数据层面到业务层面高可用，满足可用性原则；\uf06c系统支持存储系统集群，满足高可靠性需求；\uf06c系统具备充分的数据冗余，数据容错能力；\uf06c系统具有专业的技术保障体系以及数据可靠性保证机制；\uf06c系统在存储节点损坏时（包括硬盘，机柜的故障），不会丢失数据；\uf06c系统在发生数据损坏时，有数据自愈能力；\uf06c对工作环境要求较低，环境适应能力强；\uf06c确保系统具有高度的安全性，提供安全的登录和访问措施，防止系统被攻击；\uf06c异常掉电后不丢失数据，供电恢复后自动重新启动并自动恢复正常连接；\uf06c系统器件选择要考虑能支持7×24小时连续长时间大压力下工作；扩展性原则\uf06c系统易于扩展，支持10PB级数据存储；\uf06c系统在容量扩展时，性能得到提升；\uf06c系统选择标准化的部件，利于灵活替换和容量扩展；先进性原则\uf06c系统必须严格遵循国际标准、国家标准和国内通信行业的规范要求；\uf06c需符合存储技术以及IT行业的发展趋势，所选用的产品型号已规模上量；\uf06c所有的系统处于先进的技术水平，确保较长时间内技术上不落伍；\uf06c系统的处理能力要达到业内领先，对于本次业务的使用要留有一定的余量，以满足后续升级的需求；开放性原则\uf06c系统必须支持国际上通用的标准网络存储协议、国际标准的应用开放协议；\uf06c与主流服务器之间保持良好的兼容性；\uf06c兼容各主流操作系统及应用程序；\uf06c可以与第三方管理平台集成，提供给客户定制化的管理维护手段；\uf06c满足今后的发展，留有充分的扩充余地；易维护性原则\uf06c系统支持简体中文，通俗易懂，操作方便、简单；\uf06c系统具有充分的权限管理，日志管理、故障管理，并能够实现故障自动报警；\uf06c系统设备安装使用简单，无需专业人员维护；\uf06c系统容量可按需要在线扩展，无需停止业务；\uf06c系统功能扩充需要升级时，支持不中断业务升级；\uf06c支持图形化界面管理方式；经济性原则\uf06c综合考虑集中存储系统的性能和价格，最经济最有效地进行建设，性能价格比在同类系统和条件下达到最优。绿色性原则\uf06c满足环保与节能的要求，噪声低、能耗低、无污染；\uf06c必须选用无铅器件；\uf06c有节能降耗的技术手段；\uf06c具备环境管理认证，符合环保规定，包材可回收，支持重复利用；2系统设计方案随着IT的发展，非结构化数据量急剧增多，业务种类日新月异，对存储系统的可靠性和可扩展性提出了更高的要求，传统存储已经不能满足其需求，华为技术有限公司深刻分析客户的需求，推出了大数据存储产品OceanStor9000，帮助客户解决正在面对或者即将面对的问题。OceanStor9000提供海量存储空间，最大40PB的单一文件系统，可承载多种业务接入，它对外提NAS访问接口，与应用结合，形成多种解决方案，适用多种场景。该项目的方案如下：2.1系统设计方案针对以上问题和需求，OceanStor9000提供了分布式存储解决方案。该方案面向种类繁多的文件存储上层业务，为客户提供存储多种类型业务数据的方案。该方案要求与其对接的上层业务遵循接口规定，方案的具体描述如下：1)OceanStor9000提供统一命名空间的存储系统，多种业务的数据都存储在这个统一的存储空间中，包括文件，视频，图象等多种类型的业务数据存储；2)采用OceanStor9000存储设备，配置5节点，采用全对称分布式架构设计，轻松实现容量扩展，满足日益发展的业务系统的存储要求，与业务需求相匹配；3)容量扩展的同时，性能同步提升，避免因为数据量增多而产生的性能瓶颈；4)软、硬件支持在线扩容，容量扩展的同时，保证不会中断业务系统运行，并且支持多个节点批量扩容；5)配额管理、负载均衡、全局缓存、数据自愈、自动化数据分层和数据迁移等额外软件模块不需要购买许可，免费使用；6)整系统采用集群部署和Erasurecode数据保护策略，支持N+1到N+4的数据可靠性保障，以及故障自动检测、修复技术，保障系统可靠性；7)OceanStor9000对外提供NAS接口，支持NFS和CIFS协议共享，适应多种应用场景，例如：支持和文件业务对接，和图片业务对接等；8)每种业务对存储空间的需求不同，OceanStor9000天然支持ThinProvisioning实现空间弹性扩展，满足不同业务的存储需求，同时不会造成空间定额分配造成的浪费；9)对设备管理员，提供WEBUI管理工具，统一管理存储设备。OceanStor9000有几种类型的节点，文件系统元数据采用SSD技术，为元数据访问提升访问效率，并降低整体延迟，节点可以并存于一套存储系统中（Performancenode和Capacitynode，或Performancenode和Mini-capacitynode），提供统一命名空间，根据不同的应用场景配置不同数量、不同类型的节点，并可实现不同类型节点间数据的分级存储，降低TCO。节点类型如下：Performancenode：是超高性能主存储的解决方案，应用于OPS密集型的应用场景。Capacitynode/Mini-capacitynode：适用于高带宽型的大文件读写应用场景，完美平衡存储系统大容量和高性能。本次方案，根据实际业务需求，存储系统需要可用容量550TB以上。根据该容量和性能要求，本次存储系统配置5台Capacitynode，裸容量达到700TB，冗余配比按照N+2:1，可用容量为553TB，满足客户目前音频中心媒资业务系统的容量和性能需求。整体方案架构如图所示：图表1OceanStor9000整体方案架构2.2拓扑结构系统支持多种组网模式，内外部组网均支持10GEEthernet或40GEInfiniband或1GEEthernet组网，可根据项目和业务的需求进行灵活选择。系统初期建设配置5台Capacitynode，随着业务的发展，平滑扩容至10PB以上。存储网络拓扑结构如下图所示：业务2业务1业务3OceanStor9000图表2存储网络拓扑结构图其配置特点如下：\uf06c所有关键业务集中存储，并支持多协议共享\uf06c内外部组网均采用10GEethernet，特有的TOE网卡和RDMA技术，提高访问效率\uf06c支持客户端连接负载均衡、配额管理2.3软硬件配置说明地点设备名称规格型号数量备注7楼中心机房OceanStor9000Capacitynode双路6核CPU，48G内存，140TBSATA，10GE网卡25图表3配置说明…………10GEswitch10GEswitch10GEswitch10GEswitchPerformancenodePerformancenodeCapacitynodeCapacitynodeGE10GEManagementserverGEswitchApplicationserverOceanStor90003方案特点及优势作为横向扩展存储，OceanStor9000面向大数据存储市场应对大数据挑战，该场景下业务多变，数据飞速增长，数据安全性要求日益提高，对存储系统提出了较高的要求。OceanStor9000具备弹性空间、卓越性能、简化管理和高可靠性等特点，有效应对大数据时代的挑战，降低企业CAPEX和TCO。3.1弹性扩展传统存储系统，无论是较早的单体式（Monolithic）还是现在的模块化（Modular）架构，都基于向上扩展（Scale-up）的设计，这种模式要求以增加处理器等运算资源进行升级以获得对应用性能的要求，往往成本会大于部署大量相对便宜的设备来实现性能的提升。而且这种提高受到上限的制约，来自磁盘数量、连接数量、缓存大小、控制器数目等方面的约束使得Scale-up架构存在很大的局限性。因此，现在的存储设备大多采用Scale-out存储架构。企业可以根据需求增加不同的服务器和存储应用，依靠多部服务器、存储协同运算，借负载平衡及容错等功能来提高运算能力及可靠性。它不再采用集中化的内存和大型控制器模式，而是使用一个个独立的模块，每个模块都具有自己的处理单元、缓存、主机接口和系统。当性能或容量需求发生改变时可以很方便的进行调整，且当增加或者删减模块的时候可以按照比例增加或者减少缓存、处理能力、磁盘和带宽，以维持资源最优。这样整个存储系统将变得更加敏捷、稳定且更具扩展性。OceanStor9000采用Scale-out存储架构，将海量数据压力分散到多个并发存储节点，数据和元数据均匀分布于各个节点上，避免资源争用，系统性能（吞吐量）按照比例扩展，并且各个存储节点之间负载均衡，有效避免单节点性能瓶颈。这种架构，不仅保持了对象存储系统高可靠、高性能的优点，而且使得OceanStor9000系统具有更好的扩展性。OceanStor9000通过Scale-out架构，轻松实现容量扩展，可实现从3节点到288节点的轻松扩容。OceanStor9000能够根据业务增长进行平滑扩容，系统每增加一个存储节点，都能够自动识别，单节点扩容更是小于60秒，将该存储空间加入到整系统中，并根据负载均衡的原则，优先选择新的节点存储，从而简化了系统扩容的管理，降低了操作成本。扩容时容量和性能支持线性扩展，最大可提供40PB规模的单一文件系统，真正实现“应需而变”，为业务的长期高性价比提供保障。3.2卓越性能OceanStor9000提供业界领先的NAS读写性能，OPS最大可突破500万，而系统总带宽可达200GByte/s，可充分满足媒体编辑和高性能计算等领域的性能要求。OceanStor9000性能提升的关键技术包括：3.2.1SSD加速和自动分级存储SSD硬盘可解决数据读写性能的瓶颈，提供低延迟和高吞吐量。OceanStor9000采用SSD硬盘存储元数据，加速元数据访问效率，提升处理能力。此外OceanStor9000的动态分级存储软件（InfoTier）可自动识别小文件和热点数据，根据信息在不同的阶段对于业务的价值不同，通过智能的I/O热度统计，可以精确挖掘数据内在价值，根据热度在系统内不同存储介质之间进行数据迁移，从而将数据进行合理的分布，将高Value的数据自动分布到高级别的存储介质上，而将低Value的数据自动迁移到更加廉价的介质上，提升资源利用率。而这一切都在业务未曾感知的情况下自动完成。InfoTier软件通过细粒度数据统计和自动迁移，并可根据业务特点设置不同的策略，可基于文件属性（路径，文件名，创建时间，访问时间，修改时间，大小，UID/GID）和访问频率策略。InfoTier软件可提升热点数据的存储性能，使高价值硬盘得以更充分的利用。统计周期设置是否合理对冷热数据分析结果影响较大，应尽可能选择能真实反映数据整体访问频度的周期。3.2.2全局缓存数据在缓存中的读写速度远高于硬盘，但单节点的缓存提升空间有限。同时如果各节点的缓存相互独立，则缓存命中率难以提升，数据的一致性保证机制也会趋于复杂。OceanStor9000通过全局缓存模式，整合所有节点缓存，容量最大可达55TB的虚拟缓存池。同一文件的数据在缓存池只缓存一份，任意节点均可命中，有效提高数据访问命中率，减少硬盘读写次数，降低访问时延，提升系统整体性能。3.2.3高速互联OceanStor9000支持10GE高速以太网，单个节点可提供4个10GE端口。OceanStor9000还同时支持IB（InfiniBand）网络，带宽高达40Gbit/s，可满足更加苛刻的性能要求。OceanStor9000可适配用户的不同组网需求，通过节点间高速互联，降低系统内部时延，提供卓越性能。3.2.4并发访问传统的NAS系统由引擎和存储单元组成。数据的全部并发访问需要先由NAS引擎处理，因此引擎容易成为性能瓶颈。OceanStor9000采用全对称的逻辑架构，每个节点均可提供业务服务。通过负载均衡设计，数据访问在集群内均匀分布，可大幅提升系统并发访问能力。3.3数据可靠随着IT的发展，人们日益认识到数据是公司最重要的资产，一旦数据丢失，对公司的影响是不可估计的，人们越来越注重数据保护。OceanStor9000采用业界最高水平的数据保护机制，保证数据的高可靠性：3.3.1ErasureCodeOceanStor9000采用ErasureCode保障数据一致性，确保海量数据存储场景下的数据安全可靠。ErasureCode是RAID的超集，能够支持比传统RAID算法更高的可靠性和更灵活的冗余策略，其设计思路是对文件进行原始分片（N份），通过纠错编码生成M个冗余校验块文件。写入时，由客户端进行切片（N）和转码（M），一共生成N+M份数据，存储系统自动从各存储节点中选择一个硬盘组成一个N+M个磁盘的磁盘组，分别写入N+M份数据。任意一份数据损坏的情况下，可以通过其它数据恢复，最大可以支持M份数据的损坏。OceanStor9000采用ErasureCode算法保障数据可靠性，将N+M份数据保存在N+M个不同的虚拟节点上，其中N支持2-16，M支持1/2/3/4。可以看出，它最大可以支持4份数据同时损坏，并且可以通过其它数据分片，恢复原始数据，而不影响系统业务的连续性，数据保护性强于传统的RAID5（只允许一份数据损坏）、RAID6（只允许两份数据损坏）。如下图所示：图表4ErasureCode原理说明图OceanStor9000分布式存储系统专门针对小文件存储进行了优化。如果配置了N+M的保护方式，当一个文件的数据量不超过一个分片大小时，系统会自动将其转化为1+M份的存储方式，当数据量超过一个分片大小，系统才会对它进行校验计算。这种优化，可以提高小文件的读写性能和存储利用率。3.3.2元数据高可靠OceanStor9000的分布式文件系统的元数据，采用存储多份副本的方式，并且对于配置了N+M保护方式的文件来说，其元数据的保存份数自动设定为M+2份，这使得OceanStor9000分布式存储系统的元数据的可靠性高于其数据。3.3.3数据自愈OceanStor9000分布式存储系统采用的InfoProtector技术，是华为公司的专利技术。InfoProtector可以提供最多同时故障4个全节点的数据保护。并且硬盘故障时，InfoProtector确保将单个故障盘的重新构建时间缩至最短，达到1TB数据只需要1小时恢复时间,优于友商的数据恢复速度。数据存储时被分片打散到多个存储节点上，这些分片数据支持分布在不同的存储节点之间。在数据发生故障导致数据不一致时，OceanStor9000通过内部的自检机制，自动发现数据故障。发现故障后启动数据修复机制，在后台修复数据。由于数据被分散到多个不同的存储节点上保存，数据修复时，在不同的节点上同时启动修复，每个节点上只需修复一小部分数据，多个节点并行工作，有效避免单个节点修复大量数据所产生的性能瓶颈，对上层业务的影响做到最小化。3.4简化管理OceanStor9000支持可视化自动部署，提供了专门的网管管理工具，它支持WEBUI形式，可以方便的显示所有设备的组网结构，所有设备的容量，CPU，内存等信息，以及所有进程的运行状态，业务的运行状态，实时展示系统性能信息，保存和查询操作日志。管理维护高效集中，简洁易用。管理员可以通过集群内任意节点访问网管界面，完成对硬件、软件、集群和业务的统一管理。单个节点故障不影响网管的正常登录和使用。3.4.1自动精简配置（ThinProvisioning）客户侧有多种应用的情况时，可能出现某些应用存储的数据空间已经饱和，另一些应用存储的数据空间几乎没怎么使用，空间浪费率极高。OceanStor9000自动支持ThinProvisioning，可以按照客户需要为客户配置存储空间，并且这个空间是动态分配的，支持弹性扩容，实际需要使用多少空间，OceanStor9000就为它分配多少空间，客户存储的数据容量增长时，分配的空间也弹性增长，为客户解决了在项目初期为不同应用精确存储空间规划的苦恼，也有效避免了资源浪费。3.4.2精细化配额管理OceanStor9000可实现对存储空间的细化管理。支持按照用户、用户组或目录的配额管理和配置，并且支持嵌套的配额管理，便于资源管理。OceanStor9000的InfoAllocator特性包括：基于目录的配额：管理员可以针对为空的共享目录设置配额，限制该目录的最大可用存储空间。基于用户/用户组的配额：管理员可以对任意用户/用户组设置配额，限制该用户/用户组可以使用的最大可用存储空间。4相关产品介绍4.1产品概述华为技术有限公司紧跟业界趋势，在充分掌握了用户需求的基础上推出大数据存储产品OceanStor9000，面向大数据存储市场，以全对称分布式架构为基础，融合ErasureCode数据保护技术，提供业界领先的读写性能和超大单一文件系统；对外提供统一的接口，承载多业务接入，满足大数据存储应用场景下海量数据存储需求。4.2产品形态介绍OceanStor9000包含几种类型节点，Performancenode、Capacitynode，Mini-capacitynode。Performancenode应用于OPS密集型应用场景（2013年11月发布的100个该节点SPECsfs2008性能值达到了5,030,264OPS的优越性能），在大量小文件频繁读写场景下使用该节点（如媒资的非线编应用等）。Capacitynode应用于高带宽型应用场景，在大文件顺序读写场景下使用该节点（如卫星图片存储、归档应用等）。Mini-capacitynode应用于小容量场景，在系统裸容量小于210TB，性能要求不高的情况下，使用该节点。Performancenode和Capacitynode或Performancenode和Mini-capacitynode可以在同一套系统内配置，并可完成不同节点类型之间的分级存储功能，用户可根据不同的业务需求灵活的配置节点的数量（同类型节点至少三台）。整机柜部署如下图所示：图表5Performancenode整机柜和单节点视图图表6Capacitynode节点整机柜和单节点视图图表7Mini-capacitynode整机柜和单节点视图Performancenode：2U，25+2盘位操作系统盘2.5寸300GSAS数据盘支持2.5寸SSD、SAS标配1×200GSSD+24×600GSASCapacitynode：4U，36+2盘位操作系统盘2.5寸300GSAS数据盘支持3.5寸SSD、SATA、NLSAS标配35×2TB/3TB/4TBSATA+1×200GBSSDMini-capacitynode：2U，12+2盘位操作系统盘2.5寸300GSAS数据盘支持3.5寸SSD、SATA、NLSAS标配1×200GSSD+11×2TB/4TBSATAOceanStor9000内外部支持10GE、Infiniband或GE组网，前后端网络分离，组网类型支持如下表：前端业务网络后端存储网络配套交换机（内部组网）是否是推荐组网类型10GE接入10GE接入CE6800主推10GE接入IB接入MellanoxIS5023-IB接入IB接入MellanoxIS5023-GE接入10GE接入CE6800-图表8前后端组网类型支持10GE内部组网情况下，10GE交换机CE6800的后视图如下图所示：图表9CE6800交换单元4.3产品规格表型号特性描述硬件特性系统架构全对称分布式架构节点数3～288Performancenode标配2×IntelE5系列，48G内存，1×2.5”200GSSD+24×2.5”600GSASCapacitynode标配2×IntelE5系列，48G内存，1×2.5”200GSSD+35×3.5”3TB/4TBSATAMini-capacitynode标配2×IntelE5系列，32G内存，1×200GSSD+11×2TBSATA客户业务网络类型10GEEthernet或40GEInfiniband或1GEEthernet内部互联网络类型10GEEthernet或40GEInfiniband或1GEEthernet软件特性数据保护级别N+1，N+2，N+3，N+4文件系统Wushan分布式文件系统支持全局命名空间，可动态扩展，最大40PB动态分级存储(InfoTier)支持2级动态分级存储，并可设置分级策略客户端连接自动负载均衡(InfoEqualizer)可实现客户端连接的负载均衡，支持多种负载策略空间配额管理(InfoAllocator)等支持的配额类型为：目录配额、用户配额、用户组配额数据自愈数据自动化并行快速恢复，最高恢复速度达1TB/Hr系统扩展“一键式”在线扩展，单节点扩展小于60秒系统管理支持不同级别管理用户，支持用户分权分域管理全局缓存支持全局缓存，最大可支持55TB支持的操作系统Windows，Linux，MacOS，Solaris，AIX，HP-UX协议支持NFS，CIFS，NIS，MicrosoftActiveDirectory，LDAP，SNMP故障告警方式E-mail，短信，SNMP，Syslog免及时维护系统自动坏盘率检测及告警通知，坏盘可批量集中更换，无须即时更换，减少人力维护物理特性电源AC100V～127V，AC200V～240V尺寸（高×宽×深）节点Performancenode：2U，86.1mm×446mm×582mmCapacitynode：4U，175mm×446mm×582mmMini-capacitynode：2U，86.1mm×446mm×582mm机柜机柜最大外形尺寸：2000mm600mm1100mm重量节点Performancenode：满配2.5寸盘≤35kgCapacitynode：满配3.5寸盘≤70kgMini-capacitynode：满配3.5寸盘≤32kg机柜满配2U节点最大重量为576.7kg，满配4U节点最大重量为725.5kg典型功耗Performancenode≤420wCapacitynode≤580wMini-capacitynode≤260w工作环境温度5℃至35(–60m-1800m)℃，海拔1800m～3000m时，高度每升高100m，环境温度降低0.6℃工作湿度20%～80%R.H.图表10产品规格表5缩略语表本章给出本文所涉及的缩略语表，只需要列出文中出现的缩略语即可。【样例】英文缩写英文全名中文全称NASNetworkAttachedStorage网络接入存储ISMIntegratedStorageManager集成存储管理器UIUserInterface用户界面SANstorageareanetwork存储区域网络SASserialattachedSCSISATASerialAdvancedTechnologyAttachmentSSDsolidstatediskTCPTransmissionControlProtocolUIDuserID',)