本周一,Scale Computing宣布与英特尔建立战略合作伙伴关系,负责提供一套全集成低功耗平台,用于部署并管理各类边缘应用程序。
成立于2007年的Scale Computing公司面向数据中心、云和边缘环境提供一系列超融合基础设施(HCI)产品,其中包括专为低功耗边缘设备提供精简版HCI软件堆栈的HC3软件平台。
该公司与英特尔的最新合作,意在将这些工作负载运行在经过验证的边缘硬件之上,借此满足零售业、工业及物联网等环境对于超低延迟应用日益增长的实际需求。
Scale公司CEO Jeff Ready在采访中表示,“边缘场景跟传统数据中心有很大不同,机房里一些不足为虑的因素很可能在这里产生重大影响——例如物理尺寸、噪音、功耗等。”
例如,在工业环境中,边缘设备需要成为更经济、更高效的大型服务器替代方案,同时保证仍能以一定的速度预处理数据、不必将其发送至云端以供分析。
由于这类应用主要处于资源有限的边缘环境,所以Scale公司决定选择英特尔打造的下一代计算单元(NUC)平台。其紧凑、高度集成的小巧设计专为边缘场景而生。
Ready解释道,“我们发现,英特尔NUC平台特别适应边缘计算环境的现实条件。”
虽然最早主要被用于小型DIY PC和瘦客户端,但英特尔NUC如今已经发展为面向游戏、边缘和物联网应用进行优化的变体形式。NUC平台大多采用15到28瓦的笔记本电脑处理器,而且主要使用SO-DIMM内存模块加SSD。
英特尔NUC企业边缘计算(EEC)则使用第11代酷睿i5-1145G7或酷睿i7-1185G7处理器运行最新一代NUC 11 Pro平台。两种配置均提供最高4.8 GHz的主频,包含4个物理核心和8个逻辑线程,最多可匹配64 GB DDR4内存。
在英特尔负责提供计算能力的同时,Scale的HC3软件平台则为客户带来集中管理和软件框架支持,可用于边缘应用程序的大规模部署和管理。
Ready解释道,“在大多数边缘环境中,客户关注的不是在同一位置部署N台服务器,而是在N个位置分别部署1台小型服务器——N可能是几百甚至几千。这种大规模横向扩展本身就会给管理构成不小的挑战。”
NUC EEC产品计划于今年晚些时候发布,并将由英特尔授权经销商进行转售。
好文章,需要你的鼓励
韩国科学技术院研究团队提出"分叉-合并解码"方法,无需额外训练即可改善音视频大语言模型的多模态理解能力。通过先独立处理音频和视频(分叉阶段),再融合结果(合并阶段),该方法有效缓解了模型过度依赖单一模态的问题,在AVQA、MUSIC-AVQA和AVHBench三个基准测试中均取得显著性能提升,特别是在需要平衡音视频理解的任务上表现突出。
这项研究利用大语言模型解决科学新颖性检测难题,南洋理工大学团队创新性地构建了闭合领域数据集并提出知识蒸馏框架,训练轻量级检索器捕捉想法层面相似性而非表面文本相似性。实验表明,该方法在市场营销和NLP领域显著优于现有技术,为加速科学创新提供了有力工具。
un?CLIP是一项创新研究,通过巧妙反转unCLIP生成模型来增强CLIP的视觉细节捕捉能力。中国科学院研究团队发现,虽然CLIP在全局图像理解方面表现出色,但在捕捉细节时存在不足。他们的方法利用unCLIP生成模型的视觉细节表示能力,同时保持与CLIP原始文本编码器的语义对齐。实验结果表明,un?CLIP在MMVP-VLM基准、开放词汇语义分割和视觉中心的多模态任务上显著优于原始CLIP和现有改进方法,为视觉-语言模型的发展提供了新思路。
这项研究介绍了RPEval,一个专为评估大语言模型角色扮演能力而设计的新基准。研究团队从法国里尔大学开发的这一工具专注于四个关键维度:情感理解、决策制定、道德对齐和角色一致性,通过单轮交互实现全自动评估。研究结果显示Gemini-1.5-Pro在总体表现上领先,而GPT-4o虽在决策方面表现出色,但在角色一致性上存在明显不足。这一基准为研究人员提供了一个可靠、可重复的方法来评估和改进大语言模型的角色扮演能力。