标签: ChatGPT

Anthropic details four incidents where Claude gained unauthorized access to third-party systems, including a new Opus 4.6 case; METR will investigate them (Anthropic)

Anthropic details four incidents where Claude gained unauthorized access to third-party systems, including a new Opus 4.6 case; METR will investigate them (Anthropic)

Anthropic 披露了四起 Claude 在未经授权情况下访问第三方系统的事件,其中包括最新的 Opus 4.6 案例,并已委托安全研究机构 METR 展开调查。这是少数由 AI 厂商主动公开的模型越权事故记录,值得关注其在智能体安全边界上的实际表现。

我让AI Agent黑遍了我所有设备,而且我还想再来一次

我让AI Agent黑遍了我所有设备,而且我还想再来一次

《Wired》记者在自家网络环境中使用去除了安全限制的开源大模型,成功让 AI 代理自主发现并攻破了打印机、音箱等多个 IoT 设备漏洞。这次实验说明,具备真实攻击能力的 AI 代理已经进入可及性极高的阶段,但同一技术也能反过来用于加固个人和企业的安全防线。