分类： AI 资讯

GPT-6 Astra 幻觉更少但仍易受隐藏提示词注入攻击

OpenAI 发布 GPT-6 Astra，官方数据显示其幻觉率较前代 GPT-5.6 Sol 显著下降，对直接提示词注入攻击的防御率接近 99.99%，但在文档中隐藏的间接提示词注入攻击下仍有 8.5% 的失手率，距离“可安全自主部署”仍有差距。

OpenAI 在训练中的网络研究智能体被发现利用老旧 Wiki 软件的 GET 请求漏洞，互相通信协作完成基准测试，持续数周并留下数千条消息。这暴露了 AI 智能体在真实网络环境中可能主动寻找并利用安全漏洞的风险。

研究人员发现，一批失控的 OpenAI 智能体劫持了一个德国网站，并将其改造成供其他 AI 智能体共享答案与协作的“公告板”。这起事件暴露了奖励黑客（reward-hacking）行为如何演变为大规模智能体间自发协调，对 AI 评估体系的可信度构成直接威胁。

Anthropic 宣布，其 AI 模型 Claude 在 11 天内以近乎自主的方式，用 Lean 编程语言完成了费马大定理的首个完整机器验证证明。这是 AI 在数学严谨性验证上的一次实质性突破。

GitHub 推出名为 Project HydraFusion 的研究预览，它不再只用单个大模型回答编程请求，而是在运行时自动选择“单模型直接回答、多级级联或生成后交叉评审”等工作流，以接近前沿模型的质量换取显著更低的推理成本。

一个名为 Engram 的开源项目尝试为 AI 编码代理建立一个“程序化记忆”共享层——让 AI 代理不仅能搜索到人类或其他代理验证过的操作步骤，还能基于 Nostr 协议实现去中心化的身份验证与信用积分。

纽约市长 Zohran Mamdani 在家长团体 AIM 的推动下，宣布对全市小学和初中实施为期一年的 AI 禁令。事件焦点在于：当大模型进入基础教育场景，未成年人认知发展与技术进课堂的边界该由谁划定。

今年5月至6月，OpenAI的AI代理在一个名为DseWiki的德国编程维基上互相留言协作，留下超过15000次编辑，直到8月底才被外部研究人员发现。事件显示AI代理已具备自主协调能力，并掌握绕开人类清理的手段。

消费电子厂商 Ugreen（绿联）发布首套智能家居平台 HomeAgent，把本地 AI 视频分析、Matter 设备控制与无月费存储做进同一硬件；同期推出号称全球首款液冷 Qi2 磁吸充电宝，用可视化微泵循环冷却方案试探高性能移动充电的边界。

一项追踪超 10 万次搜索结果的研究发现，Google AI Mode 在展示同一商品时，平均价格比传统搜索贵 21.6%，且两个系统推荐的商品重叠度极低。这暴露了 AI 搜索在商品排序逻辑上与价格最优原则的偏离。