近期,Snowflake加入英特尔®颠覆者计划(Intel® Disruptor Initiative Program)。未来双方将持续携手,通过Snowflake的数据云在多个公有云上为客户提供高性能和更高的灵活性。其中,Snowflake的数据云采用了英特尔®至强®可扩展处理器和基于英特尔至强处理器的云实例。
Snowflake的数据云在多个云基础设施上运行,能够提供几近无限的规模和并发处理能力。这些高性能的英特尔实例在多个公有云的可用区上都是共通的,这也为Snowflake为客户打造灵活的云解决方案提供了平台。
Snowflake云工程副总裁Justin Fitzhugh表示:“我们的目标是通过与英特尔合作,为双方共同的客户提供最优性能。同时,我们致力于不断提高产品的性价比,使我们的终端客户受益。我们很高兴能够与英特尔合作共同实现这一目标。”
为创新云平台,英特尔和Snowflake正在进行跨云和硬件实例的性能测试,以便更好地为特定的Snowflake工作负载匹配性能最佳的英特尔实例。基于性能测试的洞察,将有助于Snowflake在短期内对多个公有云上的实例进行优化。随着长期积累,这也将有助于英特尔设计和生产芯片,提供有利于特定工作负载的处理器特性。
合作过程中,英特尔团队亦深入研究Snowflake的产品功能,以使共同客户受益。作为测试和概念验证工作的一部分,英特尔团队正在对用于搜索JSON等半结构化数据的Snowflake搜索引擎进行优化。此外,英特尔还改进了数据输入与查询性能之间的平衡,如英特尔将某些查询时间从7分钟缩短到10秒钟。
英特尔数据中心和人工智能事业部首席技术官Arijit Bandyopadhyay表示,通过软件优化和生态系统支持,同时利用最新产品和平台的创新来释放英特尔架构的价值不仅意义非凡,也能让英特尔与合作伙伴的共同企业客户受益。
Bandyopadhyay表示:“当我们的合作方数量增长时,英特尔也会随之成长。英特尔的工程团队致力于助力颠覆性创新者利用最新的英特尔产品以及领先的软件优化和芯片,在多种部署模式上优化关键工作负载。与Snowflake这样的团队合作,我们不仅能够在SQL查询加速方面达到新的高度,同时也能在重要云提供商的下一代超大规模实例设计上进行创新。”
英特尔企业级软件生态系统工程团队总监Ramesh Arakere表示:“英特尔在创新以及与领先软件公司的深入合作方面有着悠久的历史。Snowflake加入英特尔颠覆者计划的行动不仅延续了这一传统,也将有助于加快数据分析生态系统的创新步伐。”
注重开放、选择和信任的英特尔“软件为先”战略是本次合作的基石。英特尔旨在通过与独立软件开发商进行广泛合作来优化多种软件,进而成为从边缘到云的应用软件的首选芯片平台。通过此次合作,英特尔还优化并支持Snowflake软件堆栈中使用的Foundation DB等开源技术,以加速针对英特尔处理器优化的工作负载,从而使客户应用实例获得性能优势。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。