标签： DeepSeek

一名开发者在 V2EX 上反馈，在使用 Claude 检查 Git 代码时，因未注意 token 消耗，一小时内被扣除了约 3000 万 token，费用远超预期。该事件暴露了 AI 工具在持续推理任务中的 token 计费风险。

Anthropic 发布了名为“J-Lens（雅可比镜头）”的新型可解释性分析工具，发现其 Claude 模型在内部形成了一个类似人类工作记忆的“J-Space”空间。该空间存储模型在输出前没有说出口的“思考”内容，且能因果性地控制模型的最终结论。基于这一发现，Anthropic 已开发出新的训练方法，显著减…

苹果机器学习研究团队发表论文指出，大型语言模型（LLM）的安全对齐机制极度脆弱——只需操控模型中的一个神经元，即可绕过安全限制，让模型输出有害内容。这一发现挑战了当前主流的安全对齐思路，即认为安全行为是大规模参数协同作用的结果。