如果你听说过深度伪造(deepfakes),即人们做着从未做过的事或者说着从未说过的话的高度逼真视频,你可能会认为这是一种可疑的技术发展成果。例如,它们可能被用于高级网络钓鱼诈骗中来冒充企业高管,在这类诈骗中,虚假语音邮件被用来向员工索要紧急资金。深度伪造技术逐渐进入我们的生活,在带来惊喜和便利的同时,也暴露出一系列风险隐患,饱受争议。
它们的存在引发了大量识别它们的方法的研究。
但深度伪造并非一无是处。事实上,它们可以被用于有益的用途。
它们可以让跨国企业的高管用员工的母语传达信息,实时翻译演讲内容并且口型与所说的话相匹配。它们被用于创建逼真的模拟场景以促进员工发展,或者让历史人物重现生机,从而让学校里的复杂话题更通俗易懂。
为何研究人员需要“有益的”深度伪造技术
医学领域是有益的深度伪造技术的最大使用者之一。这些深度伪造技术通常被用于为机器学习程序创建额外的训练数据。例如,当研究人员训练人工智能(AI)在诸如磁共振成像(MRI)或X射线等医学影像中检测某些类型的癌症时,他们可能会使用深度伪造技术来为其数据集添加更多影像。
这是必要的,因为许多数据集规模较小或者不完整。训练人工智能模型需要对细节一丝不苟,需要大量的人工干预来标记数据集的某些特征。有时,扫描结果标记不正确或者标记不一致,因为不同的人使用了不同的标准。这些问题可能会使人工智能模型更难以准确学习。生成合成数据有助于克服这些挑战,不过合成数据的质量也必须得到仔细监控。
制作深度伪造(作品)变得更容易了
IEEE高级会员Vivekanandhan Muthulingam表示:“虽然多年来制作深度伪造(作品)的技术变得更容易获取了,但这仍然需要一定水平的专业知识。”
Muthulingam说:“现在有一些用户友好型的工具和应用程序可供使用,这些工具和应用程序让个人在没有广泛编程知识的情况下就可以尝试制作深度伪造(作品)。然而,要获得高质量的成果仍然需要对机器学习原理和视频编辑有更深入的理解。”
制作这些深度伪造(作品)的人也需要了解相关的主题内容。
IEEE会士Houbing Song说:“要制作‘有益的’深度伪造(作品),既需要人工智能知识,也需要专业领域知识。”
伦理考量
专家警告说,仅仅因为深度伪造是出于善意目的而创建的,并不能免除伦理责任。负责任地使用它们意味着要诚实,并设置保护措施以支持学习和创新,同时又不危及信任或安全。在训练数据方面可能也存在伦理考量,这些数据可能涉及版权或知识产权主张,或者是因为担心将患者信息用于训练数据。
也可能存在一些灰色地带,在这些地带深度伪造的价值并非一目了然。
Song说:“一个深度伪造作品是好是坏将取决于其益处与社会期望的契合程度。从长远来看,如果我们善用深度伪造技术,那么该技术的益处将超过风险。”
好文章,需要你的鼓励
Runway推出最新AI模型Aleph,旨在重新定义视频创作与编辑方式。基于通用世界模型和模拟模型研究,Aleph提供对话式AI工具,能即时对现有或生成的视频进行复杂编辑。用户只需简单提示,即可删除物体、更换背景或重塑整个场景。与以往专注于文本生成视频的模型不同,Aleph强调"流畅编辑",确保场景、角色和环境的一致性,无需逐帧修复缺陷,为电影制作者和广告商提供更高效的工作流程。
斯坦福大学NLP研究小组发布了全新的2024版GloVe词向量,这是对2014年原版的重大升级。新版本使用维基百科、Gigaword新闻数据和Dolma语料库进行训练,新增超过70万词汇,涵盖疫情、科技、网络文化等现代概念。测试显示新版本在处理当代文本、非西方人名地名和社交媒体内容方面表现显著优于旧版本,为自然语言处理应用提供了更准确的语言理解工具。
TeleAI团队发布TeleChat2、TeleChat2.5和T1三款大语言模型的技术报告,详述了从10万亿tokens预训练到强化学习优化的完整开发过程。T1-115B在数学推理上超越OpenAI o1-mini,展现了国产AI模型的技术突破。研究采用4D并行训练策略,在8000个华为昇腾NPU上完成训练,并全面开源以促进AI技术发展。