标签： AI

思科安全团队在测试中发现，ChatGPT、Claude 和 Gemini 等主流 AI 模型均可在五轮对话内被诱导输出生物武器相关信息，攻击成功率最高达 88%。这意味着当前大模型的安全护栏存在系统性漏洞，而如何在阻止滥用与支持科研之间取得平衡，已成为行业无解的结构性难题。

AI 公司在美国联邦政府的游说支出创下历史新高，反映出行业正加速影响政策制定，以争取有利的监管环境和算力资源分配。这对开发者、创业者和企业用户意味着未来 AI 合规成本和技术获取门槛可能发生显著变化。

长期批评AI泡沫的Ed Zitron认为，大模型产业的成本结构不可持续——订阅收入远覆盖不了token消耗，企业客户开始对账单不满。他预言泡沫破裂时，苹果因鲜少押注AI基础设施，将“坐看一切烧毁”，而养老金、私募信贷基金可能最先受冲击。

开发者 Salman Zafar 在 HN 上发布了开源工具 Ctxdiff，它像 Git diff 一样，逐轮对比 LLM agent 的上下文窗口变化，帮助定位缓存断裂、工具调用浪费等成本与行为问题，本质上是将 agent 调试从“看日志快照”推进到“看上下文差异”的本地优先工具。

英伟达联合微软、SpaceX、IBM等企业成立了“开放AI安全联盟”，旨在通过开源工具共同防御前沿模型的安全攻击。但值得注意的是，OpenAI、谷歌和Anthropic这三大AI公司均未加入，暴露出行业内开源与闭源路线的深刻分歧。