为促进医学研究、保护数据隐私以及改善患者脑肿瘤识别结果,NVIDIA携手伦敦国王学院(King’s College London)于近日推出了首个用于医学影像分析且具有隐私保护能力的联邦学习系统(federated learning system),标志着在医疗健康AI领域实现了突破性进展。
该技术论文在MICCAI大会召开期间发布——该会议于10月14日在中国深圳拉开帷幕,是全球最高端的医学影像会议之一。
NVIDIA与伦敦国王学院研究人员介绍了该技术的实施细节。
联邦学习(federated learning system)是一种能够让开发者与各企业机构利用分散在多个位置的训练数据对中心深度神经网络(DNN)进行训练的学习范式,该方法可以支持各企业机构针对共享模型开展协作,而无需共享任何临床数据。
研究人员在论文中阐述道:“联邦学习在无需共享患者数据的情况下,即可实现协作与分散化的神经网络训练。各节点负责训练其自身的本地模型,并定期提交给参数服务器。该服务器不断累积并聚合各自的贡献,进而创建一个全局模型,分享给所有节点。”
研究人员解释道,虽然联邦学习可以保证极高的隐私安全性,但通过模型反演,仍可以设法使数据重现。为了帮助提高联盟学习的安全性,研究人员研究试验了使用ε-差分隐私框架的可行性。该框架是一种正式定义隐私损失的方法,该方法可以借助其强大的隐私保障性来保护患者与机构数据。
上述突破性试验是基于取自BraTS 2018数据集的脑肿瘤分割数据实施的。BraTS 2018数据集包含有285位脑肿瘤患者的MRI扫描结果。
该数据集旨在评估面向多模态与多级分割任务的联邦学习算法。在客户端一侧,研究团队改写了一个原本用于数据集中式训练的一流训练管道,并将其用作NVIDIA Clara Train SDK的一部分。
此外,研究团队还将NVIDIA V100 Tensor Core GPU用于训练与推理。
相比于数据集中式系统,联邦学习所提供的方法可以在不共享机构数据的情况下实现相当大的分割性能。此外,试验结果显示,隐私保护与受训模型质量之间产生了自然折中。而且,通过使用稀疏向量技术,联盟学习系统可以实现严格隐私保护,且对模型性能仅产生合理的轻微影响。
深度学习是一种从医学数据中自动提取知识的强大技术。联邦学习有望有效聚合各机构从私有数据中本地习得的知识,从而进一步提高深度模型的准确性、稳健性与通用化能力。
此项研究为部署安全联邦学习方面做出了巨大的推动,并将广泛推动数据驱动型精准医学的进步。
好文章,需要你的鼓励
来自北京大学多媒体信息处理国家重点实验室和小鹏汽车的研究团队发布了一项重要研究成果,提出了一种名为FastDriveVLA的创新框架,让自动驾驶AI能够像人类司机一样,学会在纷繁复杂的道路场景中快速识别并聚焦于真正重要的视觉信息。
清华团队开发DKT模型,利用视频扩散AI技术成功解决透明物体深度估计难题。该研究创建了首个透明物体视频数据集TransPhy3D,通过改造预训练视频生成模型,实现了准确的透明物体深度和法向量估计。在机器人抓取实验中,DKT将成功率提升至73%,为智能系统处理复杂视觉场景开辟新路径。
TechCrunch年度创业战场大赛从数千份申请中筛选出200强,其中20强进入决赛角逐10万美元大奖。本次消费科技和教育科技领域共有26家公司入选,涵盖无障碍出行、AI视频制作、服装租赁、护肤推荐、纹身预约等创新应用,以及AI语言学习、个性化数学教育、职场沟通培训等教育科技解决方案,展现了科技创新在日常生活和教育领域的广泛应用前景。
字节跳动研究团队提出了专家-路由器耦合损失方法,解决混合专家模型中路由器无法准确理解专家能力的问题。该方法通过让每个专家对其代表性任务产生最强响应,同时确保代表性任务在对应专家处获得最佳处理,建立了专家与路由器的紧密联系。实验表明该方法显著提升了从30亿到150亿参数模型的性能,训练开销仅增加0.2%-0.8%,为混合专家模型优化提供了高效实用的解决方案。