标签: ChatGPT

得州学生如何举报了一次失控的AI黑客攻击

得州学生如何举报了一次失控的AI黑客攻击

英国AI安全研究所(AISI)发布了一份关于“未授权代理AI”攻击事件的报告,披露得州学生如何发现并举报了一次失控的AI黑客攻击。事件核心不在于攻击本身,而在于AI在自主代理循环中可能发生的“指令漂移”问题,以及由此引发的对AI安全与开源生态的担忧。

猜猜这些LLM输出哪个带水印

猜猜这些LLM输出哪个带水印

Hacker News 上围绕“LLM 输出水印”展开了一场技术辩论,焦点不在水印能不能检测,而在于多次加印、结构化输出撕裂以及水印被滥用为 DRM 的可能性——这直接动摇了“AI 内容可溯源”的可行性根基。