至顶网服务器频道 06月03日 新闻消息:
数据中心作为信息世界的基础设施,随着全面AI时代与5G、物联网的不断临近,无论算力还是管理都将迎来全新的挑战,传统计算产业的整体升级和进化迫在眉睫。为此,宝德先后在北京、上海、深圳召开了AI推理服务器应用研讨会,宣布AI推理服务器全面升级,将采用Intel第二代至强®可扩展处理器,围绕“智能加速、智能管理、智能数据中心”三个层次实现智能化升级,为传统产业快速升级智能化带来新的曙光。
破局智能加速
传统服务器性能昂贵,CPU作为传统的计算资源,在部分业务场景下并不是最经济的选择。AI、5G、物联网带来了计算多样性趋势,这使得CPU单部件遭遇性能瓶颈,如何实现不同的计算资源应对不同的计算需求,是提升计算收益的关键。
为了应对算力爆炸的趋势,宝德AI推理服务器引入了智能加速引擎,包含了SSD硬盘、FPGA加速卡、傲腾®可持续内存以及AI软件支持,突破传统服务器单机性能过度依赖CPU,大步提升服务器系统级性能。
实现智能管理
传统数据中心主要依靠人工操作来解决日常运维问题,人力不仅低效而且稳定性不高,造成海量服务器的部署、运维、管理成本高昂。数据中心的规模越来越大,在日常巡检、定期检修等中人为参与程度越高,出错概率也就越大。
为解决运维管理这一难题,宝德AI推理服务器增加了智能管理引擎,可提供包含智能资产管理、智能能效管理、智能部署管理、智能故障管理等智能管理特性,让数据中心部署的服务器管理智能化,大大提升管理与运维效率。相比人工运维中的不足,智能运维管理不仅能够简化流程、提高效率以及综合管理能力,也能大大降低人为产生的故障率,未来数据中心智能管理必将全面替代纯人工运维及自动化半人工运维。
智能数据中心
传统数据中心中存在诸多痛点,与服务器之间缺乏联动,整体能源利用效率不高。数据中心设计与施工的优劣,直接决定了内部各种设备是否能够稳定可靠地运行,更决定了各类信息是否能够通畅无阻。
对于智能化数据中心的建设,宝德一方面基于海量数据,利用人工智能的技术,进一步优化数据中心的运营,提升数据中心整体能源利用效率。另一方面,未来数据中心会越来越多地承载大数据的业务、人工智能训练场景及人工智能应用的场景,因此数据中心自身需要去适应新的智能化业务的需求。宝德通过智能加速和智能管理,将传统服务器升级为智能服务器,并实现由点到面的算力进化,打造智能化的数据中心基础设施,采用整机柜解决方案,可以规模化快速部署,最终目标是实现无人值守的自动化智能化数据中心。
全新AI推理服务器的推出,是宝德在智能计算领域的又一里程碑。在全面AI时代、5G、物联网快速发展的大背景下,传统计算产业的整体升级和进化也将进入加速期,这一机遇将又一次重塑全球服务器市场格局。
好文章,需要你的鼓励
是德科技高级副总裁兼通信解决方案事业部总裁Kailash Narayanan现场指出,算力固然重要,但如果能耗过高,技术的实用性将大打折扣,因此,所有的高速、高性能计算,都必须在极低的功耗下实现,这是AI等技术能否大规模落地的核心前提。
DeepSeek-AI团队通过创新的软硬件协同设计,仅用2048张GPU训练出性能卓越的DeepSeek-V3大语言模型,挑战了AI训练需要海量资源的传统观念。该研究采用多头潜在注意力、专家混合架构、FP8低精度训练等技术,大幅提升内存效率和计算性能,为AI技术的民主化和可持续发展提供了新思路。
来自上海交通大学和浙江大学等机构的研究团队开发出首个AI"记忆操作系统"MemOS,解决了AI系统无法实现人类般持久记忆和学习的根本限制。该系统将记忆视为核心计算资源进行调度、共享和演化,在时间推理任务中相比OpenAI记忆系统性能提升159%。MemOS采用三层架构设计,通过标准化记忆单元实现跨平台记忆迁移,有望改变企业AI部署模式。
加拿大女王大学研究团队首次系统评估了大型视频语言模型的因果推理能力,发现即使最先进的AI在理解视频中事件因果关系方面表现极差,大多数模型准确率甚至低于随机猜测。研究创建了全球首个视频因果推理基准VCRBench,并提出了识别-推理分解法(RRD),通过任务分解显著提升了AI性能,最高改善幅度达25.2%。