Prismata:限制 Web 代理中的跨站点提示注入

来自学术预印本的一项新研究提出了 Prismata——一个专门用于防止 Web 代理在跨站点操作时被提示注入攻击的方法。该研究目前处于理论验证阶段,但直接指向 AI 代理安全中一个尚未被充分防御的漏洞。

来自学术预印本的一项新研究提出了 Prismata——一个专门用于防止 Web 代理在跨站点操作时被提示注入攻击的方法。该研究目前处于理论验证阶段,但直接指向 AI 代理安全中一个尚未被充分防御的漏洞。

本周美股 AI 概念股走势分化明显:Meta 凭借连续发布的 AI 新品创下年初以来最强单周涨幅;美光科技因机构集体上调目标价、市值逼近万亿;SK 海力士在美上市募资 265 亿美元,成为外国企业在美最大规模 IPO。而英特尔和 SpaceX 则因各自原因跌幅靠前。

GitHub 发布了 CodeQL 2.26.0,这是一次重要的安全分析引擎更新:不仅拓展了语言支持到 Kotlin 2.4.0,还新增了专门针对 AI 系统提示注入的检测查询,帮助开发者在 AI 应用开发早期发现安全风险。

尼日利亚恐怖组织“博科圣地”据信正在使用未经严格内容安全防护的大语言模型(LLM)生成炸弹制造指南和战术指导。这一事件暴露出当前主流AI安全护栏在恶意用户面前的可绕行性,也再次点燃了关于“AI是否实质性降低恐怖主义技术门槛”的激烈讨论。

在 Hacker News 社区中,有用户表达了对 Google 可能过早停止或弃用 Gemini 2.5 Flash 模型 API 版本的担忧,核心原因是用户认为某个模型在特定测试中得分更高,并不代表它在所有场景下都更优秀,而公司出于商业动机更倾向于淘汰低价或旧版本以推动用户升级。

Hugging Face 首席执行官 Clem Delangue 在 TechCrunch 播客中强调,开源 AI 在企业规模化应用中正成为主流选择,但同时也面临闭源巨头垄断和地缘政治竞争的双重压力。他特别指出,美国多数开源模型下载量来自中国实验室,这一现状值得警惕而非否定开源本身。

Meta 最新的 Muse Spark 1.1 模型在 Artificial Analysis 的智能指数中获得 51 分,相较于三个月前发布的 1.0 版本有显著提升,且在同等得分梯队中表现出最佳的成本控制和 token 使用效率,是性价比突出的新选择。

随着SpaceX成功上市以及AI初创公司(如xAI、Anthropic、OpenAI)估值飙升,新产生的科技亿万富翁和早期员工正将大笔财富投入私人航空领域,导致私人飞机购买和租赁需求激增,私人飞机成为AI繁荣的早期受益者。

欧洲央行管委、法国央行行长 Emmanuel Moulin 公开表示,人工智能对通胀的影响难以预测,且可能加剧价格波动。这一观点提醒市场:AI 的经济效应并非单向降通胀,而是同时作用于供需两端,带来更大不确定性。

Hugging Face 首席执行官 Clem Delangue 指出,越来越多的企业开始从使用昂贵的商业 API 转向拥抱开源 AI 模型,根本原因在于规模化带来的成本压力。这一趋势背后,是 AI 行业底层商业模式和竞争格局正在发生深刻变化。