人工智能(AI)是一种与人类相似的思维和行为能力,被用来帮助抵御潜在的网络攻击。利用人工智能和机器学习来检测漏洞大大增强了人类的能力,因为人工智能可以在一个人可能需要的很短时间内分析和报告数百万网络威胁。
人工智能可以变得“更聪明”且“会学习”;随着人工智能算法继续搜索和监控数据,它可以提高对不同类型潜在攻击的理解。
什么是网络攻击?
你可能最近在新闻上听到了很多关于网络攻击和数据泄露的消息,但网络攻击到底是什么?为什么保护我们的数据很重要?
IEEE高级会员Steven Furnell表示:“简而言之,网络攻击是一种蓄意的、往往有针对性的尝试,旨在通过数字技术或针对数字技术采取行动。在实践中,网络攻击可以采取多种形式,但我们最常见的是将黑客攻击和恶意软件以及网络钓鱼等联系起来。然而,有更广泛的标签可以用来反映可能涉及的具体方法和动机。”
IEEE高级成员Han Guangjie补充道:“攻击后,计算机或网络将被破坏、暴露、修改或失去一些功能。你的个人信息或重要数据将在未经授权的情况下被他人获取。考虑一下这些数据背后的潜在利益——这就是这些攻击存在的原因。”
初级黑客可能只对偷钱、获取个人数据感兴趣,或者只是为了伤害他人。更资深的黑客有可能破坏整个公司或政府。
AI如何优先考虑安全需求
一旦人工智能有效地识别了潜在的风险和威胁,下一步就是优先考虑要解决的问题和顺序。
IEEE会员Marcos Simplicio表示:“由于基于人工智能的检测系统通常在不确定的情况下工作,它们不仅可以在出现问题时发出警报,还可以对给定事件与网络攻击的距离进行评分。然后可以相应地对得分较高的事件进行优先级排序。例如,在某个得分以上,可以采取自动措施来阻止极有可能的攻击,而无需任何人为干预。然后,得分较低的事件可以转发给管理员进行进一步分析,一些得分较低事件可以简单地记录下来,而不需要任何额外的操作,因为处理这些事件可能不值得。”
阻止网络攻击的其他方法
人工智能和机器学习并不是用于预防和抵御网络攻击的唯一机制。一系列强大的技术保护我们的系统,并有助于抵御严重的漏洞。
IEEE高级会员Aiyappan Pillai解释说,除了人工智能,密码学、新兴量子密码学、逻辑分析法、物联网安全、区块链安全和硬件认证技术也在帮助技术人员保护我们的数字基础设施的安全。
最后,防止网络攻击的另一种方法是继续教育用户远离可疑活动。IEEE高级会员Raul Coucher强调:“重要的是要记住,安全在很大程度上与流程和行为有关,因此管理、教育和意识流程在任何精心设计的安全战略中都发挥着关键作用。”
另请参阅网络安全教育孩子的5种方法:https://transmitter.ieee.org/ways-to-educate-your-child-on-cybersecurity/。
好文章,需要你的鼓励
新加坡国立大学研究团队开发了名为IEAP的图像编辑框架,它通过将复杂编辑指令分解为简单原子操作序列解决了当前AI图像编辑的核心难题。研究发现当前模型在处理不改变图像布局的简单编辑时表现出色,但在需要改变图像结构时效果差。IEAP框架定义了五种基本操作,并利用思维链推理技术智能分解用户指令,实验证明其性能显著超越现有方法,尤其在处理复杂多步骤编辑时。
Character AI的研究者开发出TalkingMachines系统,通过自回归扩散模型实现实时音频驱动视频生成。研究将预训练视频模型转变为能进行FaceTime风格对话的虚拟形象系统。核心创新包括:将18B参数的图像到视频DiT模型改造为音频驱动系统、通过蒸馏实现无错误累积的无限长视频生成、优化工程设计降低延迟。系统可让多种风格的虚拟角色与人进行自然对话,嘴型与语音同步,为实时数字人交互技术开辟了新可能。
这项由中国人民大学高瓴人工智能学院研究团队发表的研究解决了大语言模型评判中的自我偏好问题。研究提出了DBG分数,通过比较模型给自身回答的分数与黄金判断的差异来测量偏好度,有效分离了回答质量与自我偏好偏差。实验发现,预训练和后训练模型都存在自我偏好,但大模型比小模型偏好度更低;调整回答风格和使用相同数据训练不同模型可减轻偏好。研究还从注意力分析角度揭示了自我偏好的潜在机制,为提高AI评判客观性提供了重要指导。
这篇研究提出了DenseDPO,一种改进视频生成模型的新方法,通过三大创新解决了传统方法中的"静态偏好"问题:使用结构相似的视频对进行比较,采集细粒度的时序偏好标注,并利用现有视觉语言模型自动标注。实验表明,DenseDPO不仅保留了视频的动态性,还在视觉质量方面与传统方法相当,同时大大提高了数据效率。这项技术有望推动AI生成更加自然、动态的视频内容。