Akamai利用经济高效的 NVIDIA GPU 执行全新编码,助力流媒体平台优化处理视频
2024年 4月24日 – 负责支持和保护网络生活的云服务提供商阿卡迈技术公司(Akamai Technologies, Inc.,以下简称:Akamai)(NASDAQ:AKAM),近日在其日益丰富的云产品阵容中又增添了一款基于 NVIDIA GPU 的媒体优化型产品。这款全新的云服务产品基于 NVIDIA RTX 4000 Ada Generation GPU,为媒体和娱乐行业的公司带来了更高的工作效率和经济性,帮助他们解决了如何更快速、更高效地处理视频内容的难题。
Akamai 执行的内部基准测试表明,使用 NVIDIA RTX 4000 GPU 执行编码时的每秒帧数 (FPS) 达到了基于 CPU 的传统编码和转码方法的 25 倍,这代表着流媒体服务提供商在典型工作负载处理方式这一难题上取得了重大进步。
通过使用 Akamai 的产品,媒体和娱乐公司可以构建可扩展且具备出色恢复能力的架构,并以更快速、更可靠、可移植性更高的方式来部署工作负载,同时还能充分利用分布极为广泛的云平台以及集成的内容交付和安全服务。
Akamai 云产品副总裁 Shawn Michels 表示:“媒体公司需要低延迟、性能可靠的计算资源来保持所创建工作负载的可移植性。NVIDIA GPU 在部署到 Akamai 的全球边缘平台之后,表现出了极高的性价比。我们与计算合作伙伴及开放式平台齐心协力,使客户有能力构建独立于云且支持多云架构的下一代工作负载。”
对行业优化 GPU 的需求
媒体行业一直非常重视使用 NVIDIA GPU 来支持构建大型语言模型,而 Akamai 专为媒体行业定制的 GPU 服务充分考量了该行业产品服务尚存不足、成本也较为高昂的问题。凭借在该领域深耕的悠久历史以及积累的深厚经验,Akamai 对其面向 GPU 的新产品进行了精心调整,以满足媒体和娱乐行业严苛且特别的需求。
应用场景
NVIDIA RTX 4000 GPU 在速度和能效方面表现极为出色,足以应对要求严格的创意、设计和工程工作流程,适用于数字内容创建、3D 建模、渲染、推理以及视频内容和流媒体传输。媒体相关的应用场景包括:
Akamai 专门针对媒体市场优化了新的解决方案,而对于希望构建与其他一些行业应用场景相关的应用程序的开发人员和公司来说,这一新产品同样适用。这些应用场景包括:
Michels 补充表示:“要支持各种各样的工作负载,客户需要拥有丰富的计算实例。我们推出了行业优化 GPU,但这也只是我们众多客户举措的其中一步。通过这些举措,我们将进一步提升整个计算连续体内的实例多样性,从而推动开发边缘原生应用程序并为其提供支持。”
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。