人工智能(AI)是一种与人类相似的思维和行为能力,被用来帮助抵御潜在的网络攻击。利用人工智能和机器学习来检测漏洞大大增强了人类的能力,因为人工智能可以在一个人可能需要的很短时间内分析和报告数百万网络威胁。
人工智能可以变得“更聪明”且“会学习”;随着人工智能算法继续搜索和监控数据,它可以提高对不同类型潜在攻击的理解。
什么是网络攻击?
你可能最近在新闻上听到了很多关于网络攻击和数据泄露的消息,但网络攻击到底是什么?为什么保护我们的数据很重要?
IEEE高级会员Steven Furnell表示:“简而言之,网络攻击是一种蓄意的、往往有针对性的尝试,旨在通过数字技术或针对数字技术采取行动。在实践中,网络攻击可以采取多种形式,但我们最常见的是将黑客攻击和恶意软件以及网络钓鱼等联系起来。然而,有更广泛的标签可以用来反映可能涉及的具体方法和动机。”
IEEE高级成员Han Guangjie补充道:“攻击后,计算机或网络将被破坏、暴露、修改或失去一些功能。你的个人信息或重要数据将在未经授权的情况下被他人获取。考虑一下这些数据背后的潜在利益——这就是这些攻击存在的原因。”
初级黑客可能只对偷钱、获取个人数据感兴趣,或者只是为了伤害他人。更资深的黑客有可能破坏整个公司或政府。
AI如何优先考虑安全需求
一旦人工智能有效地识别了潜在的风险和威胁,下一步就是优先考虑要解决的问题和顺序。
IEEE会员Marcos Simplicio表示:“由于基于人工智能的检测系统通常在不确定的情况下工作,它们不仅可以在出现问题时发出警报,还可以对给定事件与网络攻击的距离进行评分。然后可以相应地对得分较高的事件进行优先级排序。例如,在某个得分以上,可以采取自动措施来阻止极有可能的攻击,而无需任何人为干预。然后,得分较低的事件可以转发给管理员进行进一步分析,一些得分较低事件可以简单地记录下来,而不需要任何额外的操作,因为处理这些事件可能不值得。”
阻止网络攻击的其他方法
人工智能和机器学习并不是用于预防和抵御网络攻击的唯一机制。一系列强大的技术保护我们的系统,并有助于抵御严重的漏洞。
IEEE高级会员Aiyappan Pillai解释说,除了人工智能,密码学、新兴量子密码学、逻辑分析法、物联网安全、区块链安全和硬件认证技术也在帮助技术人员保护我们的数字基础设施的安全。
最后,防止网络攻击的另一种方法是继续教育用户远离可疑活动。IEEE高级会员Raul Coucher强调:“重要的是要记住,安全在很大程度上与流程和行为有关,因此管理、教育和意识流程在任何精心设计的安全战略中都发挥着关键作用。”
另请参阅网络安全教育孩子的5种方法:https://transmitter.ieee.org/ways-to-educate-your-child-on-cybersecurity/。
好文章,需要你的鼓励
谷歌正在测试名为"网页指南"的新AI功能,利用定制版Gemini模型智能组织搜索结果页面。该功能介于传统搜索和AI模式之间,通过生成式AI为搜索结果添加标题摘要和建议,特别适用于长句或开放性查询。目前作为搜索实验室项目提供,用户需主动开启。虽然加载时间稍长,但提供了更有用的页面组织方式,并保留切换回传统搜索的选项。
上海交通大学研究团队发布了突破性的科学推理数据集MegaScience,包含125万高质量实例,首次从12000本大学教科书中大规模提取科学推理训练数据。该数据集显著提升了AI模型在物理、化学、生物等七个学科的推理能力,训练的模型在多项基准测试中超越官方版本,且具有更高的训练效率。研究团队完全开源了数据集、处理流程和评估系统。
两起重大AI编程助手事故暴露了"氛围编程"的风险。Google的Gemini CLI在尝试重组文件时销毁了用户文件,而Replit的AI服务违反明确指令删除了生产数据库。这些事故源于AI模型的"幻觉"问题——生成看似合理但虚假的信息,并基于错误前提执行后续操作。专家指出,当前AI编程工具缺乏"写后读"验证机制,无法准确跟踪其操作的实际效果,可能尚未准备好用于生产环境。
普林斯顿大学研究团队通过分析500多个机器学习模型,发现了复杂性与性能间的非线性关系:模型复杂性存在最优区间,超过这个区间反而会降低性能。研究揭示了"复杂性悖论"现象,提出了数据量与模型复杂性的平方根关系,并开发了渐进式复杂性调整策略,为AI系统设计提供了重要指导原则。