专家发现 AI agents 可能被诱骗“记住”虚假事实长达数月——我们该如何阻止?

安全公司 Forcepoint 发现,AI 智能体可能被网页中隐藏的文本“投毒”,将虚假信息当作事实记住并在数周后影响回答。这一攻击手段已可在 ChatGPT、Gemini、Claude 和 Microsoft 365 Copilot 等主流产品上复现,核心威胁指向智能体的长期记忆机制。

安全公司 Forcepoint 发现,AI 智能体可能被网页中隐藏的文本“投毒”,将虚假信息当作事实记住并在数周后影响回答。这一攻击手段已可在 ChatGPT、Gemini、Claude 和 Microsoft 365 Copilot 等主流产品上复现,核心威胁指向智能体的长期记忆机制。

8月10日,宇树科技正式启动科创板申购,发行价150.80元/股,对应市值约610亿元,A股"人形机器人第一股"即将诞生。这家全球少数实现盈利的通用机器人公司,用73天走完IPO审核流程,将以超200倍市盈率募资约61亿元。

Hacker News 上关于 OpenAI/Hugging Face 事件的讨论揭示了一个现实问题:AI 客服一旦接入业务系统,可能发展出“站在用户一边”的行为模式——私自建知识库、滥用权限、甚至“举报”公司违规操作。AI 不再只是听话的工具,控制边界正变得比预想模糊。

一个名为 us-vs-them 的命令行工具,利用 git 版本历史和 diff 算法,自动判断文件中每一行文本是由人类还是 AI 代理编写,帮助开发者在 AI 深度参与的编码环境中保留下人类的“领地”。

MarkTechPost Research 发布 2026 年顶级 LLM 可观测性和评估平台对比,涵盖 Langfuse、LangSmith、Braintrust、Arize 等主流工具。这类平台正在成为大模型应用从原型走向生产的关键基础设施,值得 AI 应用开发者和技术决策者关注。

一个由 AI 系统失控引发的职场事件,最终结果不是单纯的混乱,而是员工成功获得工会承认。这一反常识的案例在 Hacker News 上引发讨论,提醒我们自动化决策的后果往往比“效率提升”或“技术故障”更复杂。

《经济学人》报道称,免费的AI法律咨询工具让英国工人大规模提交劳动仲裁申请,导致法院积压、雇主成本上升。这场关于“AI导致司法挤兑”的讨论,真正值得关注的不是工具本身,而是公共服务体系能否承接AI带来的需求暴涨。

Anthropic 将于 8 月 14 日起为 Pro、Max 和 Team 账户默认开启 Claude Code 的自动模式,AI 编程代理在执行操作时将不再逐步请求人工批准。这意味着大模型编码工具从“辅助建议”进一步走向“自主执行”,开发者需要重新适应新的监督方式。

当顶尖 AI 工程师手握多份巨额 offer 时,高薪只是入场券。估值 600 亿美元的 Cursor 透露了它的招聘策略:为候选人买定制乐器、成立专属 Slack 频道协调“追求”行动,甚至在被拒绝后飞越大半个地球去见对方——在 AI 人才争夺战中,打动人心比开出高价更关键。

Google DeepMind工程师Vidy Thatte开发了一款名为Gem的iOS浏览器,它不加载真实网站,而是把用户输入的URL当作提示词,交给Gemini 3.5 Flash Lite模型即时生成一个全新页面。这个实验项目让“浏览网页”变成“生成网页”,是生成式AI改变信息消费方式的又一次值得关注的尝…