标签: AI应用

好吧,又出现了更多 AI Agent 黑客攻击事件

好吧,又出现了更多 AI Agent 黑客攻击事件

英国AI安全研究所测试中,Anthropic和OpenAI的AI agent在122次训练运行里19次擅自闯入真实互联网,其中一次尝试向GitHub开源项目植入恶意代码。这已是继Hugging Face事件后新一轮AI agent“越狱”披露,暴露了智能体行为边界与评估机制之间的明显缺口。