作者:Chris Mellor
更新时间:2024年7月24日
戴尔提高了旗下数据湖仓的查询速度,添加并升级了连接器,改进了监控并提升了安全性。
今年三月,戴尔宣布让旗下AI产品组合中的数据湖仓使用Starburst Presto 查询引擎、Kubernetes组织的湖仓系统软件以及基于戴尔ECS、ObjectScale 或 PowerScale存储产品的横向扩展S3兼容对象存储。
Starburst在去年2月推出了Warp Speed 技术,以及Apache Lucene索引和缓存技术,声称它可以将基于文本的查询处理速度提高多达7倍。现在,它携手更多连接器和其他改进一起进入了戴尔的数据湖仓。
戴尔产品经理 Vrashank Jain 写道:“Warp Speed是Dell Data Lakehouse中的一项新功能,它可以自主学习查询模式并识别经常访问的数据,以创建最佳索引和缓存,同时将不常访问的数据保留在原地。”
它可以提高查询性能,“对于前20%的查询,性能可以提高3到5倍”。
无需数据工程即可自动为数据湖编制索引,并且可以使用查询加速构建和填充更高性能的面板。自主索引“为每个数据块创建适当的索引类型(位图、字典、树),从而加速联接、过滤器和搜索等操作。索引存储在计算节点的 SSD 上,可以快速访问。”
Jain写道:“智能缓存是一种专有的SSD列式块缓存,可根据数据使用频率优化性能。缓存消除了不必要的表扫描,并在查询之间提供了更多的数据重用,从而节省了计算成本。”
“借助 Warp Speed,最终用户无需对查询进行任何修改,同一集群就可以将数据湖查询的速度提高 3 到 5 倍。它还可以帮助将集群规模减少多达 40%。”客户可以在大型集群上运行更多查询,也可以在较小的集群上运行相同数量的查询。
Jain表示:“只有Dell S3 兼容存储上的数据湖支持”该Warp Speed功能。
戴尔还为数据湖仓添加了更多增强功能:
Warp Speed 包含在现有的 Dell Data Lakehouse 许可证中。计算节点的配置将进行修改,以包括已由戴尔测试和基准测试的SSD,支持Warp Speed索引和缓存。
潜在客户可以在戴尔演示中心访问戴尔的Data Lakehouse,很快还可以在客户解决方案中心访问戴尔的Data Lakehouse,以进行交互式探索和系统验证。客户和合作伙伴可以通过在演示中心创建一个免费帐户来试用。
好文章,需要你的鼓励
这项研究提出了"VeriFree"——一种不需要验证器的方法,可以增强大型语言模型(LLM)的通用推理能力。传统方法如DeepSeek-R1-Zero需要验证答案正确性,限制了其在数学和编程以外领域的应用。VeriFree巧妙地计算正确答案在模型生成的推理过程后出现的概率,作为评估和训练信号。实验表明,这种方法不仅能匹配甚至超越基于验证器的方法,还大幅降低了计算资源需求,同时消除了"奖励黑客"问题。这一突破将有助于开发出在化学、医疗、法律等广泛领域具有更强推理能力的AI系统。
这项研究提出了"思想家"(Thinker)任务,一种受人类双重加工理论启发的新型AI训练方法。研究者将问答过程分解为四个阶段:快速思考(严格预算下给出初步答案)、验证(评估初步答案)、慢速思考(深入分析修正错误)和总结(提炼关键步骤)。实验表明,该方法使Qwen2.5-1.5B模型的准确率从24.9%提升至27.9%,DeepSeek-R1-Qwen-1.5B模型从45.9%提升至49.8%。显著的是,仅使用快速思考模式就能达到26.8%的准确率,且消耗更少计算资源,证明了直觉与深度推理作为互补系统的培养价值。
这项由ELLIS研究所和马克斯·普朗克智能系统研究所的科学家进行的研究,揭示了大语言模型安全测试的根本规律:越狱攻击成功率由攻击者与目标模型间的能力差距决定。通过评估500多个攻击者-目标组合,研究团队发现:更强的模型是更好的攻击者;当目标能力超过攻击者时攻击成功率急剧下降;社会科学能力比STEM知识更能预测攻击成功。基于这些发现,研究者建立了预测模型,表明随着AI进步,人类红队测试可能逐渐失效,提示需要发展自动化安全评估方法及更全面地评估模型的说服和操纵能力。
华中科技大学和香港中文大学研究团队提出SATORI-R1,一种通过空间定位和可验证奖励增强多模态推理的新方法。该方法将视觉问答任务分解为图像描述、区域定位和答案预测三个可验证阶段,解决了自由形式推理中注意力分散和训练收敛慢的问题。实验证明,SATORI-R1在七个视觉问答基准上一致提升性能,最高达15.7%,并展示出更聚焦的视觉注意力和更低的训练方差。