Nvidia今天公布了一种新的分布式学习技术,该技术可以在训练机器学习模型的同时保护患者隐私,从而让人工智能成为医疗行业的一项不可缺少的技术。
人工智能有着广阔的发展前景,但对于医疗等行业而言,数据隐私至关重要,要挖掘这一潜力是个巨大的挑战。问题是,任何对训练模型有用处的数据几乎都是隐私数据,也就意味着不能将这些数据与合作伙伴进行共享。
Nvidia认为,可以通过最新的Clara Federated Learning技术解决此问题,该技术可以确保患者数据始终保留在医疗提供方的系统内。
Clara FL是一款用于分布式人工智能训练的参考应用,运行在Nvidia最新推出的EGX智能边缘计算平台上。这些系统能够在不移动数据的情况下,在数据所在的“网络边缘”本地地训练深度学习。
Nvidia医疗保健副总裁Kimberly Powell在博客中表示,Clara FL也具有协作性,也就是多个系统可以在不同位置协同工作,以创建更准确的全局模型。
Clara FL已经被美国放射学院、伦敦国王学院和加州大学洛杉矶分校(UCLA Health)等多家顶级医疗提供方的放射科医生使用。首先,放射科医生使用NVIDIA Clara AI-Assisted Annotation软件套件来标记数据,该套件与3D切片机、MITK、Fovia和Philips Intellispace Discovery等医学查看器集成在一起。
Powell表示:“NVIDIA AI可以使用预先训练的模型和转移学习技术,帮助放射科医生表及数据,从而将复杂3D的研究时间从数小时缩短至数分钟。”
然后,在Nvidia服务器上训练这些模型,通过安全链接共享把结果共享到联合学习中心。共享的只是这些结果,患者数据仍保留在原处,从而确保数据的安全性。
Powell在博客中写到:“Nvidia与英国伦敦国王学院以及Owkin展开合作,为国家卫生局创建联合学习平台。这个名为Owkin Connect的平台运行在NVIDIA Clara上,使算法能够从一个医院转移到另一家医院,并接受本地数据集的训练。该平台为每个医院都提供了一个区块链分布式的分类帐,可以捕获和跟踪用于模型训练的所有数据。”
Nvidia与Clara FL共同宣布推出了一个名为Clara AGX的新嵌入式AI开发者套件,该套件能够以很高的数据速率处理图像和视频,从而将AI推理和3D可视化功能嵌入到医疗设备中。
Nvidia低功耗Xavier片上系统为Nvidia AGX套件提供动力,该系统通常被作为自动驾驶汽车的微型处理器。目前,Nvidia AGX已经嵌入到便携式“ Hyperfine”磁共振成像设备中,可以进行早期测试,此外还可以与其他各种医疗器械、手术室、智能医疗摄像头和患者监护设备配合使用。
Powell表示:“我们正在见证医疗物联网开始采用人工智能技术。”
Nvidia方面表示,Clara AGX SDK将很快提供给早期访问用户。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。