近些年,IT界实现了诸多创新,虚拟化技术颠覆了服务器,大数据让数据库悄然变革,而存储领域,还在沿用过去几十年的内存技术。
目前的主流内存技术是DRAM(动态随机存取存储器)与NAND((即固态存储)。前者能提供纳秒级延迟水平与强悍耐久力,但存储单元大、价格贵、功耗高、易失性等问题。后者是一种非易失性存储技术,成本低、功耗少,但延迟高、写入周期有限。因此,一般选择利用DRAM作为内存或缓存机制,而NAND负责处理数据存储。
如何充分结合两者的优势,研发下一代内存技术,提供具备低延迟高使用寿命,还可扩展存储容量的新型内存方案成为业界共识。
8月,英特尔与美光公开了全新3D XPoint非易失性内存技术。据悉,该技术可输出高带宽、低延迟能力,与横向扩展存储趋势相结合,使数据更靠近计算,带来更强的分布式数据存储和处理能力。同时,英特尔与生态系统内合作伙伴广泛协作,充分利用上述存储底层特性,对协调层实施了更好的管理、调配,实现更为丰富、灵活、多样的定制化软件定义存储应用。
3D XPoint的定位
在2015中国存储峰会上,英特尔公司数据中心事业部副总裁兼存储事业部总经理Bev Crair表示,存储的变革主要体现在两个方面,一是商业层面,信息大爆炸时代企业使用数据的方式发生了变化。另一个是技术上的变革,如3D XPoint可以直接插在DIMM上使用。
她表示,3D XPoint的定位并不是NAND或者DRAM技术的替代性方案。“我们更强调3D XPoint的具体应用范畴,它更接近于NAND而非DRAM。”非易失性存储器解决方案事业部拓展经理倪锦峰补充:“3D XPoint是一种补充性技术,容量是DRAM的十倍,尺寸可以做得更大;其次是更便宜,成本是低于DRAM的,因为不用加那么多的内存条。”
如此,我们可以将存储介质看做一个金字塔。最高层是DRAM,最注重的就是I/O的性能,这方面受到数据传输延时的影响很大。往下是3D XPoint基于DIMM的存储产品。再往下是3D XPoint SSD产品,一层层下来如同梯子,在性能、密度、成本等方面都有很大区别。
3D XPoint的应用场景
整体而言,3D XPoint有三种应用模式。一是做为内存的扩展,从软件层面看非常简单,不需要额外开发或者优化,直接使用。二是类似于NVMe的拓展,把非易失闪存存储进行扩展。三是应用层面的扩展,用户需要进行软件优化,定义哪些是可以做内存,哪些可以做永久存储,在掉电之后可以实现保护。
3D XPoint的未来
倪锦峰表示,在NAM基础上的PCIe,最大挑战在于绝大部分用户未能将应用层面的性能充分发挥。“如果把3D XPoint放到PCIe的接口上,性能进一步提升,而瓶颈依然在应用。因此如何能够帮助客户做应用层面优化,能够更好地受益于3D XPoint和PCIe是很重要的一点。”此外,如果让3D XPoint更偏向DDR,关键就在于如何同DDR配合,在内存应用方面如何调整,这也涉及到操作系统的优化。
他表示,3D XPoint的意义在于将整个SSD层往上拉,从而更接近DDR,3D NAND把成本往下降,更接近HDD。“这两个定位是没有任何冲突的,它们是相辅相成的,进一步扩大NVMe生态圈。”
好文章,需要你的鼓励
微软近年来频繁出现技术故障和服务中断,从Windows更新删除用户文件到Azure云服务因配置错误而崩溃,质量控制问题愈发突出。2014年公司大幅裁减测试团队后,采用敏捷开发模式替代传统测试方法,但结果并不理想。虽然Windows生态系统庞大复杂,某些问题在所难免,但Azure作为微软核心云服务,反复因配置变更导致客户服务中断,已不仅仅是质量控制问题,更是对公司技术能力的质疑。
延世大学研究团队通过分析AI推理过程中的信息密度模式,发现成功的AI推理遵循特定规律:局部信息分布平稳但全局可以不均匀。这一发现颠覆了传统的均匀信息密度假说在AI领域的应用,为构建更可靠的AI推理系统提供了新思路,在数学竞赛等高难度任务中显著提升了AI的推理准确率。
当团队准备部署大语言模型时,面临开源与闭源的选择。专家讨论显示,美国在开源AI领域相对落后,而中国有更多开源模型。开源系统建立在信任基础上,需要开放数据、模型架构和参数。然而,即使是被称为"开源"的DeepSeek也并非完全开源。企业客户往往倾向于闭源系统,但开源权重模型仍能提供基础设施选择自由。AI主权成为国家安全考量,各国希望控制本地化AI发展命运。
蒙特利尔大学团队发现让AI"分段思考"的革命性方法Delethink,通过模仿人类推理模式将长篇思考分解为固定长度块,仅保留关键信息摘要。1.5B小模型击败传统大模型,训练成本降至四分之一,计算复杂度从平方级降为线性级,能处理十万词汇超长推理,为高效AI推理开辟新道路。