Grafana 提议用 SLO 与错误预算衡量 AI 智能体幻觉
Grafana Labs 提出把可靠性工程中的评估、SLO 和错误预算用到 AI 智能体上，让幻觉、任务完成度、毒性和成本变成可监控的指标。这提供了一个治理思路，但测量的准确性仍是最大前提。
分类： AI 资讯
Anthropic 封禁用户：涉及训练大模型的操作一律封号
开发者 Jiahao Shao 称，自己并未蒸馏 Claude，却因自动化任务涉及 RFT（拒绝采样微调）、SFT（监督微调）等训练流程，被 Anthropic 判定为“训练竞争对手”，导致账号受限、Opus 5.5 被降级为 Opus 5 或会话中断。这暴露出封闭模型厂商在防止蒸馏与保护付费用户正常使用之间…
20名众议员要求OpenAI承诺不因安全吹哨解雇员工并说明模型暂停范围
20名美国众议院民主党人致信OpenAI CEO Sam Altman，要求其承诺不因员工向外部AI安全组织分享信息而解雇吹哨人，并说明对最强模型暂停训练与测试的具体范围。这封信把OpenAI的内部安全治理和人事决策直接推到了国会监督层面。
OpenAI收紧ChatGPT武器与袭击信息边界，青少年账户优先受限
OpenAI宣布ChatGPT将对青少年账户屏蔽武器和安全系统的实操信息，同时对所有用户减少过往大规模袭击事件的细节，并首次承诺发布半年一次的社区安全报告。
教皇利奥呼吁“解除AI武装”，促日内瓦会谈禁止致命自主武器
教皇利奥十四世公开呼吁限制致命性自主武器，要求人类始终掌握生死与武力使用的决定权，并敦促11月日内瓦会议推动禁令。
Theranos吹哨人警告：AI能力造假容易，投资人别再靠30分钟咖啡下注
曾揭露Theranos血液检测骗局的Tyler Shultz在《旧金山标准报》播客中表示，AI公司宣称的技术能力很容易被包装和夸大，投资人需要做真正的尽职调查；同时，AI行业缺乏明确法规，内部员工举报安全问题的阻力很大。
AWS营收增长39%，亚马逊预计2027年大幅加码AI投入
亚马逊第三季度AWS营收同比增长39%至460亿美元，创近五年最快增速；但AI基建投入巨大，公司过去12个月自由现金流降至负424亿美元，并预计2027年资本支出将明显高于今年。
五大科技巨头AI资本支出首超经营现金流，股票回购骤降83%
路透社基于LSEG数据及公司财报的分析显示，2026年前九个月，微软、Alphabet、亚马逊、Meta和甲骨文五家公司的资本支出首次超过经营现金流，股票回购规模同比骤降83%。这轮AI基础设施投资正在改变大型科技公司的现金分配方式。
Anthropic招聘经理停用编程面试：Claude写得更好，初级工程师靠什么证明自己
Anthropic 工程经理 Felix Rieseberg 在博客中表示，他已不再用传统编程题面试候选人，理由是 Claude 写代码比应聘者更好；他转而寻找能用 AI 做出原型、体现判断力和品味的人。这值得关注，因为它暴露了大模型对招聘流程和初级工程师评价标准的直接冲击。
华盛顿邮报测试发现：Copilot 75%、ChatGPT 22% 的选举问答引用了易出错的小型投票网站
据华盛顿邮报测试，微软 Copilot 在 75% 的美国中期选举相关提问中引用了错误率较高的小型投票信息网站 Ballot Brief，ChatGPT 这一比例为 22%。这说明聊天机器人在选举这类时效性、准确性要求高的信息上，仍可能出现引用来源不可靠的问题。