“双十一”从11月的一个普通日子到单身人群集体自嘲的光棍节,再到成为影响整个中国、甚至闻名全球的电商购物狂欢节,成为影响整个社会商业生态链的一天。剁手党们在开心网购的背后,可曾想到,一个电商网站单日交易额近千亿?一天网购的商品让全国物流页集体备战?为了双十一多家银行行长亲临杭州督战?为了祈祷双十一服务器给力,运维人员在数据中心跪地烧香?无论是电商、物流还是银行等领域的IT从业者们都如临大敌,如何保障双十一的流畅购物体验成为每年IT投入成果的一次检验。什么样的IT基础设施才能支撑持续一整天甚至多天的高并发流量?如何规避双十一带来的各个“坑”,浪潮凭借十余年电商行业服务经验,为电商从业者奉上独家攻略,愿双十一安好。
做电商,我需要一个什么样的IT基础架构?
在进行IT架构设计之前,评估你所运营的电商网站是个什么样的体量是十分必要的,一个公司内购平台和淘宝、京东相比,访问量相差不止几个数量级,所采用的IT架构自然也就大相径庭。通常,采用日均PV来评估电商网站的规模相对较准确。
当你的网站日均PV在20万以内,那么可以划归为小型电商网站,那么IT架构可以设计为“Web服务器+数据库服务器”这种相对简单的架构即可满足。通常,一些小型的电商网站会架设在单台服务器中,此时不论用户接入、对象存储和数据库等应用由此台服务器完成。
当网站的日均PV介于20万到200万之间时,网站的并发流量、存储内容和网络带宽的要求都急剧增大,单台服务器早已无法满足流畅这一基本需求,负载均衡和高可用的架构成为必需。“负载均衡服务器+Web服务器+数据库服务器+存储集群”将是中型电商的主流IT架构。此时数据库服务器的性能要求更高,一般要高于Web服务器2倍以上,而且随着数据库和对象存储数据的暴增,存储服务器的容量需求也不断增大。
当你的网站持续发展,面向的客户可能从单一一个地区发展到全国甚至全球,日均PV达到200万以上,那么就需要更庞大的服务器集群、更先进性架构和技术来实现更高压力的支撑和更高效的负载分流。“WEB服务器集群+缓存服务器集群+分布式数据库集群+搜索引擎+CDN集群”的硬件架构,并运用冷热数据分离、资源解耦池化、数据库读写分离、网站动静页面分离等创新技术,才能支撑大规模的并发流量。
Web服务器怎样才能顶住高并发流量?
Web服务器主要用于处理静态请求或转发Http请求。当Web服务器接收到一个Http请求时会返回一次响应,比如送回一个HTML页面,或进行一次页面跳转。当双十一当天,数万、数十万甚至跟郭用户在同一时间访问同一页面,那么对于服务器而言就像超市促销刚开门时出现的拥挤和排队现象,如何快速的满足用户的访问请求,并准确地给予反馈是Web服务器的主要职责。
因此对于后台的服务器端,Web服务器是偏计算型的,对于CPU和网络的需求较高,万兆网络和双路至强E5的处理器几乎是标配,而在存储方面Web服务器不要求大容量,但要求较高的读写速度来实现数据的缓存和快速分发,因此通常配置SATA SSD。
浪潮SSL加解密解决方案
另外,出于用户的信息安全的考虑,目前大部分的电商网站已经从传统的Http迁移到到Https。尽管这让数据的窃取难度更大,更加安全,但同时也给Web服务器带来更大的计算压力。因此设置专门的负载均衡服务器或者使用更高效率的SSL加解密方案成为主流做法。比如,最近浪潮推出的针对Https的SSL加解密加速解决方案,就能够使Https加解密效率提升十倍以上。
如何保证全国用户都能快速访问?
在一个电商由中型向大型发展的过程中,网站的运营者可能会发现网站的访问速度有了明显的下降,造成访问缓慢的原因通常有两种:第一,服务器性能不足以支撑高并发,而发生进程等待或直接宕机。
第二,由于用户遍布全国,数据在远距离传输时会有一定的延迟(虽然光速足够快,但是长距离信号传输的丢包等问题同样造成大量的延时),电商网站数据中所在地买家的访问速度可能超过更偏远的买家。
CDN技术是解决此类问题的良方,通过在不同地域、不同网络环境下架设CDN服务器,并通过CDN对网站的图片、视频等对象进行就近分发,减轻电商网站主服务器的处理压力,提升最大并发数量。
目前,大型的电商公司会自建CDN网络来加速自身的网站访问速度,对于CDN服务器的选择,通常会需要计算和存储两类服务器来支撑:计算型主要用于处理分发任务等,CPU采用较高主频即可,对于内存和硬盘容量的要求并不高;存储型则用于在关键节点的数据存储和快速分发,因此要求IT架构中需要大容量的SSD或者高速HDD来应对(国内某大型电商公司甚至自研了容量高达6.4T的PCIe SSD来实现高速数据存储和内容分发)。
我做的是电商平台,如何把商家海量数据高效、低成本存储?
目前,电商网站所采用的主要的存储方式有三种:块存储(主要是磁盘阵列,安全、读写快),文件存储(主要是FTP、NFS服务器,读写慢、可共享)和对象存储(主要是内置大容量的分布式系统,读写快、可共享)。当网站所需存储的数据读取频繁,且不是数据库这种需要存储系统的应用,最好的选择是使用对象存储。
那么如何提升对象存储的密度并降低存储成本?采用更低功耗的CPU,并在单位空间容纳更多的硬盘,一方面能够降低数据存储的能耗成本,另一方面也能使单机柜的存储容量最大化。目前,电商IT架构中普遍采用至强E5平台服务器来支撑海量数据存储,但是计算性能的冗余导致数据存储成本居高不下。浪潮近日发布的Xeon-D服务器正是填补了温冷数据存储空白,性能介于ATOM/E3平台与E5平台之间并最高支持128GB内存容量,彻底打破了32GB的内存瓶颈,满足温冷数据所需的计算能力,单节点节省功耗50W,TCO降低33%。
数十万甚至更多的商品,怎么让买家快速搜索到?
在电子商务平台中,搜索是一个非常的重要功能,主要有搜索词类目导航、自动提示和搜索排序功能。由于需要在商品更新后进行快速的索引更新,并在用户输入关键词后实时反馈信息,因此搜索应用的计算性能和密度需求极高。目前,电商平台中较为高效的方式是结合文件全量索引和内存增量索引合并,这样可以保证索引的实时性。
因此对于内存容量和硬盘存储的速度要求更高,内存一般需要256G甚至更高的DDR4内存,大容量加之2400MHz的高速时钟频率将为索引的实时更新提供高速的缓存。而硬盘方面则需要高速的NVMe SSD来建立全量索引,10倍于SATA SSD的IOPS带来了更低的搜索延迟。
交易数据的处理,怎么安全、高效、无误?
作为电子商务的核心应用,交易数据的处理关系到真金白银,因此要求数据的高安全性、高可靠性和高一致性。在交易数据频繁,且要求快速无误处理时,小型机则是理想的选择。但是TCO至上的互联网行业,则更青睐基于x86服务器的分布式架构来应对,这2种方式各有利弊,适合不同的应用对象和场景,在这里就不一一赘述。
回到电商的交易数据处理,在底层硬件方面,需要规模较大的高计算密度的服务器集群,从目前国内大型互联网公司的需求来看,通常会采用双路的1U服务器或者四子星(2U内拥有4个计算节点),并依靠Xeon E5-2683甚至以上的高主频、多核心CPU来提供足够的计算能力,并通过全SSD来实现数据的缓存和交互。更重要的是,在上层需要一套拥有高可靠性、能够快速扩容的软件平台。去年双十一,阿里巴巴金融级自研数据库Oceanbase就承担了支付宝100%的交易流量。
双十一马上就到了,你的数据中心还好么?
当然,做电商的你也不用太焦虑,浪潮的服务团队将一直陪伴在你的左右。早在2010年,浪潮就开始对全国电商客户进行全面的走访,针对电商大促等特定时期开展特殊保障。 全年定期进行机房的巡检,检查系统健康状态,降低意外宕机的可能性,并在双十一前后进行72小时的专人值守,将意外故障概率降到最低。从今天,浪潮原厂的专业服务团队,已经进驻阿里巴巴、京东等电商数据中心,剁手党们、运维们都可以松口气了。
好文章,需要你的鼓励
临近年底,苹果公布了2024年App Store热门应用和游戏榜单,Temu再次成为美国下载量最多的免费应用。
云基础设施市场现在已经非常庞大,很难再有大的变化。但是,因为人们可以轻松地关闭服务器、存储和网络——就像开启它们那样,预测全球云基础设施开支可能非常困难。