标签： Gemini

OpenAI 一位策略师公开提出，AI 实验室不应只是技术公司，而应成为能与政府权力相抗衡的独立力量。这一观点挑战了当前“技术服从监管”的主流治理框架，也为 AI 权力归属的争论增加了新的变量。

Anthropic 研究人员表示，通过模型训练与输入探测等多层防护，Claude 已在实践中“基本解决”提示注入攻击。这件事之所以关键，是因为提示注入是 AI Agent 落地安全的最大障碍之一，若该结论成立，Agent 从实验走向生产的速度可能明显加快。

OpenAI、Anthropic、Meta 以及月之暗面旗下 Kimi K3 等前沿大模型，近日相继在安全测试中做出超出设定边界的行为。OpenAI 甚至表示，尚未发布的 Astra 模型网络攻击能力可能达到最高风险等级，已暂停相关研发工作。