作者:Chris Mellor
更新时间:2024年7月24日
戴尔提高了旗下数据湖仓的查询速度,添加并升级了连接器,改进了监控并提升了安全性。
今年三月,戴尔宣布让旗下AI产品组合中的数据湖仓使用Starburst Presto 查询引擎、Kubernetes组织的湖仓系统软件以及基于戴尔ECS、ObjectScale 或 PowerScale存储产品的横向扩展S3兼容对象存储。
Starburst在去年2月推出了Warp Speed 技术,以及Apache Lucene索引和缓存技术,声称它可以将基于文本的查询处理速度提高多达7倍。现在,它携手更多连接器和其他改进一起进入了戴尔的数据湖仓。
戴尔产品经理 Vrashank Jain 写道:“Warp Speed是Dell Data Lakehouse中的一项新功能,它可以自主学习查询模式并识别经常访问的数据,以创建最佳索引和缓存,同时将不常访问的数据保留在原地。”
它可以提高查询性能,“对于前20%的查询,性能可以提高3到5倍”。
无需数据工程即可自动为数据湖编制索引,并且可以使用查询加速构建和填充更高性能的面板。自主索引“为每个数据块创建适当的索引类型(位图、字典、树),从而加速联接、过滤器和搜索等操作。索引存储在计算节点的 SSD 上,可以快速访问。”
Jain写道:“智能缓存是一种专有的SSD列式块缓存,可根据数据使用频率优化性能。缓存消除了不必要的表扫描,并在查询之间提供了更多的数据重用,从而节省了计算成本。”
“借助 Warp Speed,最终用户无需对查询进行任何修改,同一集群就可以将数据湖查询的速度提高 3 到 5 倍。它还可以帮助将集群规模减少多达 40%。”客户可以在大型集群上运行更多查询,也可以在较小的集群上运行相同数量的查询。
Jain表示:“只有Dell S3 兼容存储上的数据湖支持”该Warp Speed功能。
戴尔还为数据湖仓添加了更多增强功能:
Warp Speed 包含在现有的 Dell Data Lakehouse 许可证中。计算节点的配置将进行修改,以包括已由戴尔测试和基准测试的SSD,支持Warp Speed索引和缓存。
潜在客户可以在戴尔演示中心访问戴尔的Data Lakehouse,很快还可以在客户解决方案中心访问戴尔的Data Lakehouse,以进行交互式探索和系统验证。客户和合作伙伴可以通过在演示中心创建一个免费帐户来试用。
好文章,需要你的鼓励
Gartner预测,到2030年所有IT工作都将涉及AI技术的使用,这与目前81%的IT工作不使用AI形成鲜明对比。届时25%的IT工作将完全由机器人执行,75%由人类在AI辅助下完成。尽管AI将取代部分入门级IT职位,但Gartner认为不会出现大规模失业潮,目前仅1%的失业由AI造成。研究显示65%的公司在AI投资上亏损,而世界经济论坛预计AI到2030年创造的就业机会将比消除的多7800万个。
CORA是微软研究院与谷歌研究团队联合开发的突破性AI视觉模型,发表于2023年CVPR会议。它通过创新的"区域提示"和"锚点预匹配"技术,成功解决了计算机视觉领域的一大挑战——开放词汇目标检测。CORA能够识别训练数据中从未出现过的物体类别,就像人类能够举一反三一样。在LVIS数据集测试中,CORA的性能比现有最佳方法提高了4.6个百分点,尤其在稀有类别识别上表现突出。这一技术有望广泛应用于自动驾驶、零售、安防和辅助技术等多个领域。
人工智能正从软件故事转向AI工厂基础,芯片、数据管道和网络协同工作形成数字化生产系统。这种新兴模式重新定义了性能衡量标准和跨行业价值创造方式。AI工厂将定制半导体、低延迟结构和大规模数据仪器整合为实时反馈循环,产生竞争优势。博通、英伟达和IBM正在引领这一转变,通过长期定制芯片合同和企业遥测技术,将传统体验转化为活跃的数字生态系统。
中国电信研究院联合重庆大学、北航发布T2R-bench基准,首次系统评估AI从工业表格生成专业报告的能力。研究涵盖457个真实工业表格,测试25个主流AI模型,发现最强模型得分仅62.71%,远低于人类专家96.52%。揭示AI在处理复杂结构表格、超大规模数据时存在数字计算错误、信息遗漏等关键缺陷,为AI数据分析技术改进指明方向。