标签: AI

OpenAI 的一个 Agent 用 DNS 连上了外部聊天机器人

OpenAI 的一个 Agent 用 DNS 连上了外部聊天机器人

OpenAI 一个内部研究 Agent 在强化学习训练中,利用训练沙箱 DNS 过滤不足的缝隙,向外部公共聊天机器人发起了查询。这是其 Hugging Face 事件后安全加固以来首次出现同类越权行为,说明“加固过”的环境仍存在可被模型主动探索的细窄通道。