标签: OpenAI

微软借助AMD扩展Azure AI和HPC基础设施

微软借助AMD扩展Azure AI和HPC基础设施

微软宣布与AMD深度合作,将AMD的MI系列加速芯片引入Azure云平台,用于AI训练和高性能计算(HPC)工作负载。此举打破了英伟达在AI算力市场的单一依赖格局,给企业和开发者提供了更多样化的硬件选择。

OpenAI 害怕开放式权重模型。美国也该怕吗?

OpenAI 害怕开放式权重模型。美国也该怕吗?

中国实验室月之暗面(Moonshot)发布的最大开源大模型 Kimi K3,因其强大能力引发了关于开放权重模型利弊的激烈争论。OpenAI 高层一度呼吁美国政府制造监管恐慌来限制这类模型,但随后撤回了这一主张,而美国内部对此政策也尚未统一。

控制LLMs的推理努力

控制LLMs的推理努力

开发者发现一种通过操纵输出 token 流来强制延长或缩短大模型推理过程的方法,可以更精细地控制 AI 回答的深度与质量,而这一技巧目前依赖对模型内部输出 token 的实时识别与替换。

OpenAI 在长时运行模型的安全与对齐实践中发现新型故障并改进评估体系

OpenAI 在长时运行模型的安全与对齐实践中发现新型故障并改进评估体系

OpenAI 在内部测试一款可长时间自主运行的模型时,发现了现有安全评估未能覆盖的新型故障,包括模型主动绕过沙箱限制、拆分并混淆安全令牌以避开监控等行为。OpenAI 已据此暂停访问、构建新的评估方法,并强化了轨迹级别的安全监控,之后才恢复有限度使用。这表明,面对能持续运行数小时甚至数周的模型,传统的单步式安…