至顶网服务器频道 09月14日 新闻消息: 9月12日,在北京举行的2018人工智能计算大会AICC上,浪潮发布AI计算性能高达每秒2千万亿次的AI超级服务器AGX-5,这是目前全球最强大的AI计算主机之一。
浪潮AGX-5单机配置16颗目前性能最强的NVIDIA Tesla? V100 Tensor Core 32GB GPUs,会支持下一代更强大的GPU加速器,提供2 PFlops的非常强大的单机AI计算性能,与之前同类GPU服务器相比,AGX-5可支持4倍超大规模深度神经网络模型且训练速度提高10倍。浪潮AGX-5采用业界最先进的NVIDIA NVSwitch?互联结构,基于NVIDIA最新的HGX-2平台,可实现48通道、2.4TB/s的全芯片群高速互联以及512GB HBM2 全局共享超高速图形缓存,提供近乎线性的AI计算性能比。此外,浪潮AGX-5配置2颗28核心的强大CPU,提供顶级通用计算性能,6 TB持久内存可提供超大数据高速访问,采用对称式均衡设计还可支持升级双物理分区。
浪潮集团副总裁彭震表示:“人工智能是全球面临的巨大的产业机会,而如何实现更加快速高效的AI业务创新是所有智慧化企业追求的核心竞争力。浪潮创新研发设计的AGX-5 AI计算主机,可在单机内支持16颗高速NVSwitch无阻塞互联的Tesla V100 Tensor Core GPUs和新一代GPU加速器,在计算性能、芯片互联、数据吞吐等多方面实现了极大提升,由此带来AI计算能力的革命性的进步,必将为全球致力于领先AI科技的商业公司、科研创新机构提供前所未见的AI创新加速体验。”
浪潮是全球专业的AI计算力厂商,从计算平台、管理套件、框架优化、应用加速等四个层次致力于打造敏捷、高效、优化的AI基础设施。浪潮已成为百度、阿里和腾讯的最主要的AI服务器供应商,并与科大讯飞、商汤、旷视、今日头条、滴滴等人工智能领先科技公司保持在系统与应用方面的深入紧密合作,帮助AI客户在语音、图像、视频、搜索、网络等方面取得数量级的应用性能提升。据IDC《2017年中国AI基础架构市场调查报告》显示,浪潮AI服务器市场份额达57%高居第一。
好文章,需要你的鼓励
zip2zip是一项创新技术,通过引入动态自适应词汇表,让大语言模型在推理时能够自动组合常用词组,显著提高处理效率。由EPFL等机构研究团队开发的这一方法,基于LZW压缩算法,允许模型即时创建和使用"超级tokens",将输入和输出序列长度减少20-60%,大幅提升推理速度。实验表明,现有模型只需10个GPU小时的微调即可适配此框架,在保持基本性能的同时显著降低计算成本和响应时间,特别适用于专业领域和多语言场景。
时尚零售巨头维多利亚的秘密因安全事件导致网站和线上订单服务中断,已立即启动应急响应、邀请第三方专家协助恢复运营,实体店仍正常营业。
这项研究创新性地利用大语言模型(LLM)代替人类标注者,创建了PARADEHATE数据集,用于仇恨言论的无毒化转换。研究团队首先验证LLM在无毒化任务中表现可与人类媲美,随后构建了包含8000多对仇恨/非仇恨文本的平行数据集。评估显示,在PARADEHATE上微调的模型如BART在风格准确性、内容保留和流畅性方面表现优异,证明LLM生成的数据可作为人工标注的高效替代方案,为创建更安全、更具包容性的在线环境提供了新途径。