标签: Anthropic

Sources: the Trump administration is considering plans for an independent regulator to vet the safety of AI models; the regulator would report to the SEC (Bloomberg)

Sources: the Trump administration is considering plans for an independent regulator to vet the safety of AI models; the regulator would report to the SEC (Bloomberg)

据彭博社报道,特朗普政府正在酝酿设立一个独立于现有监管架构的专门机构,负责审核 AI 模型的安全性,该机构将直接向美国证券交易委员会(SEC)汇报。这件事值得关注,因为它可能彻底改变美国当前“行业自律为主、各州自行立法”的 AI 治理格局,首次在联邦层面引入针对 AI 模型的强制性安全审查。

‘You’re giving ballistic ⁠missiles to individuals with Mythos’: JPMorgan CEO Jamie Dimon says Anthropic’s AI model poses some serious risks

'You're giving ballistic ⁠missiles to individuals with Mythos': JPMorgan CEO Jamie Dimon says Anthropic's AI model poses some serious risks

JPMorgan 首席执行官 Jamie Dimon 公开警告,Anthropic 的 Claude Mythos 模型因具备自主发现并利用零日漏洞的能力,贸然广泛开放如同向个人分发“弹道导弹”。该模型目前仅限少数政府与军事机构使用,但其潜在的安全失控风险已引发高层对峙。

OpenAI的产品重组让Complexifiers掌权

OpenAI的产品重组让Complexifiers掌权

OpenAI将ChatGPT、AI编程代理Codex和开发者API整合进同一核心产品团队,由Codex负责人Thibault Sottiaux主导。这一决定被原作者批评为方向错误——让“复杂化的人”掌权,而非“产品思维的人”。