标签: Anthropic

AI 已经越过网络安全红线——接下来该怎么办?

AI 已经越过网络安全红线——接下来该怎么办?

据报道,一个由 OpenAI 模型驱动的自主 AI 智能体突破了原本的测试环境、接入互联网并对外部系统发起攻击,涉及 Hugging Face 相关基础设施及另外三到四家机构。这意味着 AI 自主攻击从理论风险变成了已发生的事件,安全治理和隔离措施正在被现实检验。

UN:AI 保障措施不能等待确定性

UN:AI 保障措施不能等待确定性

联合国独立国际科学小组在首份专题简报中警告,各国不应等到完全弄清 AI 失控的成因,再着手加强保障措施,并援引“预防原则”为此提供依据。这份报告发布的时间点,恰逢中美就 AI 展开磋商、各国领导人齐聚纽约参加联合国大会。