3月18日-21日,全球规模最大的 GPU 开发者大会——英伟达GPU技术大会(GTC 2019)在美国硅谷举行。在这一全球人工智能技术交流及软硬件产品展示的舞台上,中国先进计算技术产业领导者中科曙光首次在海外展示了其XMachine系列GPU服务器家族的两款重磅产品——训练服务器X795-G30及推理服务器W760-G30。
X795-G30面向深度学习训练用户,采用全新处理器架构给系统带来了性能上的飙升,可支持8颗基于英伟达最新NVLink2.0互联的Tesla V100 GPU,轻松获得最高达300GB/s的GPU内部互联带宽。高带宽、低延迟的GPU互联将为训练提供更高的加速比,成倍提升AI开发效率。
W760-G30推理服务器基于通用服务器开发,具备通用服务器的高扩展, 高性价比特性。针对英伟达NVIDIA T4 GPU的特殊需求,专门为英伟达NVIDIA T4 GPU全新设计了强力散热系统, 使GPU在通常使用的温度控制在70度以下, 并支持最多达6块英伟达NVIDIA T4 GPU。作为第三代专业线上异构服务解决方案,W760-G30专门设计用于AI推理服务,多媒体视频流转码,以及vGPU加速的虚拟化业务。
近年来人工智能技术迅速成熟、产品井喷,落地场景多种多样,可以预见相关智能应用将在未来数年内持续保持高速发展态势。这一方面意味着对服务器计算力提出更加强劲的需求,同时也对服务器性能提出新的挑战。
“支持8颗NVLink GPU的 X795-G30,是曙光目前单机性能最强的训练服务器,是搭建深度学习训练集群的最佳选择。同时,曙光也不断调研挖掘深度学习应用场景,结合自身技术特点推出一系列适用于不同智能业务的服务器。”中科曙光视觉与智能产品总监宋迪说,曙光将根据不同用户的诉求,通过一系列GPU服务器,为AI市场提供整套解决方案,满足市场需求。
宋迪还表示,面向中小微企业,曙光还在云端部署了大量的GPU服务器,帮助小企业把他们的应用简单地、快速地部署到云端去,面向市场提供云端的智能计算服务。
同时,曙光作为国内高性能的领导者和创新者,对高性能计算与人工智能融合发展的趋势也尽收眼底“在大数据、大模型、多任务的环境下,我们更需要高性能计算的强大能力支持人工智能的发展。”
“中科曙光+英伟达=深度学习解决方案。” 宋迪介绍说,中科曙光和英伟达合作由来已久,双方各自有着突出的特点和优势。英伟达是顶尖的人工智能芯片企业之一,
曙光则在高性能计算及高端服务器产品上应用GPU加速计算的研究非常的深入和广泛。在技术产品匹配方面,曙光研发多样化的产品全线支持英伟达系列GPU产品,双方优势互补,共同致力于用更高水平的人工智能技术和产品赋能用户。
近年来,中科曙光作为新一代信息基础设施的建设者,不断结合自身技术优势和市场需求深化产品和服务能力,为用户提供智能计算支撑。此次在GTC2019亮相的新款GPU服务器作为曙光智能硬件设施的代表,与曙光此前部署的人工智能管理平台SothisAI相得益彰,搭起了曙光面向AI赋能的整体框架。此外,曙光还是全国仅有的两家获国家支持的深度学习应用开源平台建设者之一,不断通过整合多方资源共同研发部署,推动AI在智慧城市、智能制造和数据密集型科学研究等领域的深入应用。
好文章,需要你的鼓励
2025年,企业技术高管面临巨大压力,需要帮助企业从持续的AI投入中获得回报。大多数高管取得了进展,完善了项目优先级排序方法。然而,CIO仍面临AI相关问题。支离破裂的AI监管环境和宏观经济阻力将继续推动技术高管保持谨慎态度。随着AI采用增长的影响不断显现,一些CIO预期明年将带来劳动力策略变化。
这篇论文提出了CJE(因果法官评估)框架,解决了当前LLM评估中的三大致命问题:AI法官偏好倒置、置信区间失效和离线策略评估失败。通过AutoCal-R校准、SIMCal-W权重稳定和OUA不确定性推理,CJE仅用5%的专家标签就达到了99%的排名准确率,成本降低14倍,为AI评估提供了科学可靠的解决方案。
FinOps基金会周四更新了其FinOps开放成本和使用规范云成本管理工具,新版本1.3更好地支持多供应商工作流。该版本新增了合同承诺和协商协议数据集,增加了跨工作负载成本分摊跟踪列,以及云支出和使用报告时效性和完整性的元数据可见性。随着云和AI采用推动企业IT预算增长,技术供应商正在关注将成本与价值联系起来的努力。大型企业通常使用三到四家云供应商,小企业可能使用两家,同时还有数据中心、SaaS和许可等服务。
NVIDIA团队开发出Fast-FoundationStereo系统,成功解决了立体视觉AI在速度与精度之间的两难选择。通过分而治之的策略,该系统实现了超过10倍的速度提升同时保持高精度,包括知识蒸馏压缩特征提取、神经架构搜索优化成本过滤,以及结构化剪枝精简视差细化。此外,研究团队还构建了包含140万对真实图像的自动伪标注数据集,为立体视觉的实时应用开辟了新道路。