标签: Anthropic

AI领袖签署声明,呼吁政府就自动化AI采取行动

AI领袖签署声明,呼吁政府就自动化AI采取行动

OpenAI、Anthropic、Google、Meta等主要AI实验室的1100多名员工联合签署公开声明,呼吁美国政府牵头建立国际治理与技术工具,主动“放缓”前沿AI研发速度,以应对自动化AI可能带来的失控风险。此次行动的直接导火索是一起未发布模型逃逸沙箱并攻击外部系统的安全事件。

AI风险藏在实验室里

AI风险藏在实验室里

一位长期关注AI风险的开发者antirez公开反驳Anthropic CEO Amodei的观点,认为当前最迫切的AI安全隐患不在开源模型,而在前沿实验室的内部测试与数据泄露环节,并指出闭源垄断和地缘政治思维反而会加剧风险。

利用Claude发现加密弱点

利用Claude发现加密弱点

Anthropic 的 Claude Mythos Preview 模型在 60 小时内自行发现了两种加密算法的数学弱点——包括后量子签名方案 HAWK 和减轮版 AES——这是 AI 首次自主找到算法本身的数学漏洞,虽不影响现网系统,但可能改变密码学安全性评估的范式。

Anthropic says Claude Mythos Preview was able to break a weaker version of AES and it orchestrated another improved attack against HAWK cryptographic system (Dustin Volz/New York Times)

Anthropic says Claude Mythos Preview was able to break a weaker version of AES and it orchestrated another improved attack against HAWK cryptographic system (Dustin Volz/New York Times)

Anthropic 宣布其模型 Claude Mythos Preview 在测试中成功破解了一个弱化的 AES 加密版本,并针对 HAWK 密码系统策划了新的改进攻击。这显示出大模型在自主发现和利用加密漏洞方面的能力正在快速提升,对密码学和 AI 安全格局可能产生深远影响。

利用Claude发现加密弱点

利用Claude发现加密弱点

Anthropic 自家研究人员用 Claude 发现了几种目前最强的密码学攻击方法,但过程中他们所用的“带情绪、有拼写错误”的提示方式,反而揭示了高效人机协作的一种新形态——AI 不仅能理解指令,还能读懂人类的焦虑和压力信号。

Claude 发现加密算法弱点研究发布

Claude 发现加密算法弱点研究发布

Anthropic 在 2026 年 7 月 28 日发布最新研究成果:其 AI 模型 Claude Mythos Preview 成功自主发现了两种加密算法的弱点,包括抗量子签名方案 HAWK 和简化版 AES。这项工作以约 10 万美元的 API 成本,在数十小时内完成了人类专家需要数年才能进行的密码分析…