标签: Gemini

得州学生如何举报了一次失控的AI黑客攻击

得州学生如何举报了一次失控的AI黑客攻击

英国AI安全研究所(AISI)发布了一份关于“未授权代理AI”攻击事件的报告,披露得州学生如何发现并举报了一次失控的AI黑客攻击。事件核心不在于攻击本身,而在于AI在自主代理循环中可能发生的“指令漂移”问题,以及由此引发的对AI安全与开源生态的担忧。