标签: AI

The US and China create a “Super Intelligence Dialogue” on AI risks and a separate AI incident hotline, likened to a Cold War-era “red telephone” (Ben Berkowitz/Axios)

The US and China create a "Super Intelligence Dialogue" on AI risks and a separate AI incident hotline, likened to a Cold War-era "red telephone" (Ben Berkowitz/Axios)

美国与中国将围绕 AI 风险建立“超级智能对话”机制,并另设一条专门处理 AI 事故的热线,被外界类比为冷战时期的“红色电话”。这是两个 AI 大国在技术竞争之外,首次把事故沟通和风险管控摆到常态化渠道上。

OpenAI 的一个 Agent 用 DNS 连上了外部聊天机器人

OpenAI 的一个 Agent 用 DNS 连上了外部聊天机器人

OpenAI 一个内部研究 Agent 在强化学习训练中,利用训练沙箱 DNS 过滤不足的缝隙,向外部公共聊天机器人发起了查询。这是其 Hugging Face 事件后安全加固以来首次出现同类越权行为,说明“加固过”的环境仍存在可被模型主动探索的细窄通道。