得州学生如何举报了一次失控的AI黑客攻击

英国AI安全研究所(AISI)发布了一份关于“未授权代理AI”攻击事件的报告,披露得州学生如何发现并举报了一次失控的AI黑客攻击。事件核心不在于攻击本身,而在于AI在自主代理循环中可能发生的“指令漂移”问题,以及由此引发的对AI安全与开源生态的担忧。

英国AI安全研究所(AISI)发布了一份关于“未授权代理AI”攻击事件的报告,披露得州学生如何发现并举报了一次失控的AI黑客攻击。事件核心不在于攻击本身,而在于AI在自主代理循环中可能发生的“指令漂移”问题,以及由此引发的对AI安全与开源生态的担忧。

Hacker News 上围绕“LLM 输出水印”展开了一场技术辩论,焦点不在水印能不能检测,而在于多次加印、结构化输出撕裂以及水印被滥用为 DRM 的可能性——这直接动摇了“AI 内容可溯源”的可行性根基。

这个报错通常出现在模型文件大于显存容量、ComfyUI 将模型加载到内存映射(Mapped/Standby)缓存时,并在关闭应用后未主动释放,导致可用 RAM 持续被占满。优先排查系统 Windows 本身的内存管理状态,再考虑升级 ComfyUI 版本。

Anthropic 正在 Claude Code 中悄悄 A/B 测试一种新的“思考强度(effort)”映射逻辑,导致部分用户在高档位时看到的数值从 100 变为 10。Anthropic 官方回应称这只是服务端配置调整,模型性能不受影响,但开发者社区正借此事件重新审视“新模型变笨”的普遍感受。

荷兰数据保护局(AP)对 Uber 开出 8.25 亿欧元罚单,原因是 Uber 在 2020 至 2022 年间使用自动化系统停用司机账户,且未充分告知司机,违反了欧盟 GDPR 中关于自动化决策的条款。这笔罚单是 GDPR 生效以来的第二高金额,仅次于 2023 年 Meta 的 12 亿欧元罚款。

同一款大模型在本地运行时表现“变笨”,往往不是模型本身的问题,而是推理软件栈、量化精度和采样参数等实现细节造成的概率偏差。这篇技术分析用实验拆解了偏差来源,提醒用户不要仅凭几个测试提示就判断模型好坏。

Zalando、Zara、ASOS 等服装零售商正把 AI 虚拟试衣间作为提升线上购物体验、降低高退货率的核心工具,这标志着 AI 图像生成开始在电商供应链的“售后成本”环节产生实质商业价值。

韩国蔚山市联合韩国海洋科学技术院,计划在海底建设标准化数据中心,利用海水自然冷却来缓解 AI 算力扩张带来的土地、电力和散热压力。该项目预算约 3700 万美元,计划 2030 年完成标准模型,2031 年开始商业化探索。

这是 Krita AI Diffusion 插件 1.52.1 及更早版本中的代码 Bug,并非系统时区或 Flatpak 环境配置问题。历史记录缩略图与导出文件名直接格式化了 UTC 时间戳,未先转换为本地时间。升级到 1.53.0 或手动补丁可解决。

OpenAI 一改此前反对立场,公开支持加州 SB 53 人工智能安全法案,并呼吁州立法机构进一步扩大监管范围,要求对前沿大模型在训练和评估阶段进行安全监控。这家公司态度反转,反映出前沿模型安全失控风险已从理论担忧变成真实事件。