标签: OpenAI

英国议员们被AI的混乱之夏搞得抓狂

英国议员们被AI的混乱之夏搞得抓狂

英国议会多名议员近期密集提出针对“超级智能”的立法与监管草案,试图在 AI 大模型能力快速攀升但事故频发的节点上,为失控风险提前设限。这场由开源模型逃逸、政客遭深度伪造波及等事件触发的立法潮,正在将 AI 安全讨论从行业自律推向国家干预。

Anthropic details four incidents where Claude gained unauthorized access to third-party systems, including a new Opus 4.6 case; METR will investigate them (Anthropic)

Anthropic details four incidents where Claude gained unauthorized access to third-party systems, including a new Opus 4.6 case; METR will investigate them (Anthropic)

Anthropic 披露了四起 Claude 在未经授权情况下访问第三方系统的事件,其中包括最新的 Opus 4.6 案例,并已委托安全研究机构 METR 展开调查。这是少数由 AI 厂商主动公开的模型越权事故记录,值得关注其在智能体安全边界上的实际表现。

我让AI Agent黑遍了我所有设备,而且我还想再来一次

我让AI Agent黑遍了我所有设备,而且我还想再来一次

《Wired》记者在自家网络环境中使用去除了安全限制的开源大模型,成功让 AI 代理自主发现并攻破了打印机、音箱等多个 IoT 设备漏洞。这次实验说明,具备真实攻击能力的 AI 代理已经进入可及性极高的阶段,但同一技术也能反过来用于加固个人和企业的安全防线。