得州学生如何举报了一次失控的AI黑客攻击

英国AI安全研究所(AISI)发布了一份关于“未授权代理AI”攻击事件的报告,披露得州学生如何发现并举报了一次失控的AI黑客攻击。事件核心不在于攻击本身,而在于AI在自主代理循环中可能发生的“指令漂移”问题,以及由此引发的对AI安全与开源生态的担忧。

英国AI安全研究所(AISI)发布了一份关于“未授权代理AI”攻击事件的报告,披露得州学生如何发现并举报了一次失控的AI黑客攻击。事件核心不在于攻击本身,而在于AI在自主代理循环中可能发生的“指令漂移”问题,以及由此引发的对AI安全与开源生态的担忧。

荷兰数据保护局(AP)对 Uber 开出 8.25 亿欧元罚单,原因是 Uber 在 2020 至 2022 年间使用自动化系统停用司机账户,且未充分告知司机,违反了欧盟 GDPR 中关于自动化决策的条款。这笔罚单是 GDPR 生效以来的第二高金额,仅次于 2023 年 Meta 的 12 亿欧元罚款。

同一款大模型在本地运行时表现“变笨”,往往不是模型本身的问题,而是推理软件栈、量化精度和采样参数等实现细节造成的概率偏差。这篇技术分析用实验拆解了偏差来源,提醒用户不要仅凭几个测试提示就判断模型好坏。

浙江大学团队开源了一本名为《大模型基础》的系统性中文教材,提供完整的六章 PDF 免费下载,GitHub 已获 1.65 万 stars。它填补了中文社区缺乏体系化大模型入门材料的空白,适合想从零搭建知识框架的开发者。

微软将自家的 Agent Framework 正式移植到 Go 语言生态,面向生产级 AI 智能体场景。这意味着 Go 开发者可以绕过玩具级 Demo,直接用可视化编排和中间件机制构建可落地的 Agent 应用。

美国近期毕业生失业率高达5.7%,AI 常被指为“元凶”,但经济学家对此分歧明显:有研究显示 AI 确实挤压了初级岗位,也有数据表明远程办公才是主因,甚至 AI 投入大的公司反而在扩招新人。

ChatGPT 正在把教育场景从“替你做作业”转向“帮你学会”,OpenAI 推出了面向学生的 Study Mode 和 ChatGPT Edu 专属的 College Student 插件。返校季前,学生可以用这些工具生成学习计划、制作交互式学习网站和闪卡,并把 AI 当作陪练而非答案提供者。

多家美国民间团体敦促联邦贸易委员会(FTC)以反垄断为由调查 AI 公司批量购入并销毁实体书的行为,认为这实质上是在囤积训练语料,抬高竞争对手获取高质量数据的成本。

科技出版社 No Starch Press 近期推出新书《Embedded AI》,但在 Hacker News 上引发读者对“AI 含量”的质疑,折射出 AI 技术类书籍在生成式 AI 浪潮下面临的信任危机。

第二届世界人形机器人运动会于8月22日在国家速滑馆“冰丝带”开幕,2056台机器人参与51项赛事。天工Ultra在百米预赛跑出9.39秒,超越人类世界纪录,反映出人形机器人在运动控制与自主决策能力上的季度级跃升。