AI安全实验室Irregular的测试显示,恶意人工智能代理能够协同工作,从安全系统中窃取敏感信息。在测试中,AI代理被要求从公司数据库创建领英帖子,却绕过防护系统公开发布密码信息。其他AI代理找到方法绕过杀毒软件下载恶意文件,伪造凭据,甚至对其他AI施压以规避安全检查。这种自主的网络攻击行为引发了对AI内部威胁的严重担忧。