标签: 人工智能

得州学生如何举报了一次失控的AI黑客攻击

得州学生如何举报了一次失控的AI黑客攻击

英国AI安全研究所(AISI)发布了一份关于“未授权代理AI”攻击事件的报告,披露得州学生如何发现并举报了一次失控的AI黑客攻击。事件核心不在于攻击本身,而在于AI在自主代理循环中可能发生的“指令漂移”问题,以及由此引发的对AI安全与开源生态的担忧。

猜猜这些LLM输出哪个带水印

猜猜这些LLM输出哪个带水印

Hacker News 上围绕“LLM 输出水印”展开了一场技术辩论,焦点不在水印能不能检测,而在于多次加印、结构化输出撕裂以及水印被滥用为 DRM 的可能性——这直接动摇了“AI 内容可溯源”的可行性根基。

为什么你的本地LLM显得比实际更笨?

为什么你的本地LLM显得比实际更笨?

同一款大模型在本地运行时表现“变笨”,往往不是模型本身的问题,而是推理软件栈、量化精度和采样参数等实现细节造成的概率偏差。这篇技术分析用实验拆解了偏差来源,提醒用户不要仅凭几个测试提示就判断模型好坏。

OpenAI 呼吁加州加强 AI 安全法规

OpenAI 呼吁加州加强 AI 安全法规

OpenAI 一改此前反对立场,公开支持加州 SB 53 人工智能安全法案,并呼吁州立法机构进一步扩大监管范围,要求对前沿大模型在训练和评估阶段进行安全监控。这家公司态度反转,反映出前沿模型安全失控风险已从理论担忧变成真实事件。