HPE正在收购一家名为Pachyderm的初创公司,该公司的软件平台旨在加速AI项目。
HPE在本周四宣布了这笔交易,预计交易在本月底结束,之后HPE将把Pachyderm的平台与HPE的AI软件组合整合在一起。总部位于旧金山的Pachyderm公司此前从投资方那里融资了2810万美元。
企业软件团队在训练数据集的帮助下可以开发AI模型。建立新的神经网络后,它的任务就是分析训练数据集,直到学会识别信息中感兴趣的模式。一旦神经网络达到足够高的准确度,就可以部署到生产环境中用于处理实时信息。
工程师用来提高AI模型准确性的训练数据集,通常无法以原始形式进行处理。在部署训练数据集之前,软件团队必须对数据集中可能包含的任何重复和错误记录进行过滤。准备过程通常还包括其他任务,例如将信息转换为可以使用较少硬件进行处理的形式。
准备AI训练数据集的过程是通过一种名为数据管道的自动化工作流程执行的。Pachyderm公司提供了一个平台,可以更轻松地构建数据管道。该平台可以在主流的公有云平台以及企业本地的基础设施上运行。
Pachyderm让开发人员能够编写脚本来自动执行单个数据准备任务,例如删除重复记录等等。然后,开发人员可以将这些脚本组合到数据管道中。Pachyderm使用Kubernetes容器编排引擎运行管道,这样就能够根据AI项目的要求自动添加或者删除硬件资源。
Pachyderm公司表示,他们的平台可以为每个AI项目处理高达TB级的数据,平台可以接收结构化的信息,例如电子表格、服务器日志和其他类型的文件。
Pachyderm对数据管道接收信息所做的更改操作创建了一个记录。工程师通过评估此记录,可以识别管道中潜在的技术问题。Pachyderm公司表示,该平台还能够重现过去AI项目的结果,从而更容易检查这些项目的准确性。
HPE执行副总裁、高性能计算和AI部门总经理Justin Hotard表示:“随着AI项目的规模越来越大,就越来越多地涉及复杂的数据集,数据科学家们需要可重现的AI解决方案,从而有效地最大化他们的机器学习计划,优化他们的基础设施成本,同时确保数据可靠和安全,无论他们在AI旅程的哪个阶段。”
HPE计划将Pachyderm与HPE机器学习开发系统进行集成,这是一个用于训练AI模型的软件平台,该平台基于HPE早期收购Determined AI获得的技术。
好文章,需要你的鼓励
这项由加州大学圣地亚哥分校和微软研究院合作开发的REAL框架,通过程序分析反馈训练大型语言模型生成高质量代码。与传统方法不同,REAL采用强化学习将代码安全性和可维护性作为奖励信号,不依赖人工标注或特定规则。研究在多个数据集上的实验表明,REAL在保证功能正确性的同时显著提高了代码质量,有效解决了"即兴编程"中的安全漏洞和维护性问题,为AI辅助编程提供了新的范式。
加州大学伯克利分校与Meta FAIR研究团队开发了"Self-Challenging"框架,让大语言模型通过自己创建和解决任务来提升能力。该方法引入创新的"Code-as-Task"格式,包含指令、验证函数、示例解决方案和失败案例,确保生成的任务既可行又有挑战性。在工具计算、网页浏览、零售服务和航班预订四种环境测试中,仅使用自生成训练数据,Llama-3.1-8B模型性能提升了两倍多,证明AI可以通过自我挑战实现有效学习,减少对人类标注的依赖。
南洋理工大学与SenseTime Research合作提出了PoseFuse3D-KI,一种创新的人体中心关键帧插值框架。该方法将3D人体模型信息融入扩散过程,解决了现有技术在处理复杂人体动作时产生扭曲结果的问题。研究团队开发了专门的SMPL-X编码器直接从3D空间提取几何信息,并设计了融合网络将3D线索与2D姿态无缝整合。他们还构建了CHKI-Video数据集,包含2,614个视频片段及完整的人体标注。实验结果显示,PoseFuse3D-KI在PSNR上提升9%,LPIPS减少38%,显著超越现有方法。
这项研究提出了LongGuide算法,解决了大型语言模型在长文本生成任务中的局限性。研究团队发现,仅依靠上下文学习无法使模型充分掌握文本的语言和格式特性。LongGuide通过自动生成两种指导原则:度量指导原则和输出约束指导原则,显著提升了模型性能。在七种长文本生成任务中,该方法使开源和闭源模型的ROUGE-L评分平均提高约6%。LongGuide具有通用性强、易于学习、成本效益高等优点,为提升AI长文本生成能力提供了新方向。