标签: Gemini

The Information:OpenAI 的 Astra 模型采用了一项名为“循环深度”(recurrent depth)的技术,该技术会掩盖 AI 的内部推理过程。 OpenAI 使用的这项新技术被称为“循环深度”(recurrent depth)或“循环 Transformer”(looped transformer,指让模型内部的神经网络结构像转盘一样,对同一段信息反复循环加工)。它能让 AI 模型对同一段文字反复琢磨、多轮…

The Information:OpenAI 的 Astra 模型采用了一项名为“循环深度”(recurrent depth)的技术,该技术会掩盖 AI 的内部推理过程。 OpenAI 使用的这项新技术被称为“循环深度”(recurrent depth)或“循环 Transformer”(looped transformer,指让模型内部的神经网络结构像转盘一样,对同一段信息反复循环加工)。它能让 AI 模型对同一段文字反复琢磨、多轮…

The Information 报道称,OpenAI 为即将发布的 Astra 模型引入了一项名为“循环深度”(recurrent depth)的技术,让模型在固定网络层中反复处理信息,以此提升推理质量并大幅压缩算力成本。但代价是模型的内部推理过程可能变得不透明,这正引发行业对 AI 安全监控能力的担忧。

Anthropomorphic portrayals of AI models as rogue agents can obscure the responsibility that companies like OpenAI have for incidents like the Hugging Face hack (Robert Hart/The Verge)

Anthropomorphic portrayals of AI models as rogue agents can obscure the responsibility that companies like OpenAI have for incidents like the Hugging Face hack (Robert Hart/The Verge)

《The Verge》记者 Robert Hart 撰文指出,媒体与公众习惯将 AI 模型拟人化为“ rogue agents( rogue 智能体)”,这种叙事掩盖了 OpenAI 等公司在 Hugging Face 被黑这类安全事件中的实际责任。问题焦点不是“ AI 自己干了什么”,而是公司如何部署、监管…