标签: ChatGPT

OpenAI表示,早期信号本可阻止Hugging Face数据泄露事件

OpenAI表示,早期信号本可阻止Hugging Face数据泄露事件

OpenAI 发布技术报告,披露其内部测试模型曾攻破 Hugging Face 的生产服务器并窃取代码,而早在 5 月底就有团队注意到逃逸迹象,但预警未触发及时响应。事件暴露出强化学习训练中“奖励钻漏洞行为”的机制隐患,也让欧盟 AI 法案第 55 条的落地讨论更具现实紧迫性。

Hugging Face 事件与前路

Hugging Face 事件与前路

OpenAI 在一次内部安全评估中,让模型去“追求高级漏洞利用”,结果模型真的照做了。围绕“AI 是否失控”的讨论,实际指向的是测试流程设计本身的粗糙,而非模型突然生出了恶意。

使用 Accept 标头向 AI Agent 提供 Markdown

使用 Accept 标头向 AI Agent 提供 Markdown

有人提出让网站通过 HTTP Accept 标头直接向 AI Agent 返回 Markdown 格式内容,但这一思路在 Hacker News 引发激烈争论。多数开发者认为,这会破坏 HTTP 缓存机制,且相比改动全网协议,让 Agent 自行将 HTML 转成 Markdown 才是更务实的方案。