一个 OpenAI 模型不断在自己的笔记里夹带提示注入,研究人员至今没搞清原因

OpenAI 推出模型行为失准(misalignment)公开报告机制,首批六份报告披露:一个训练中的 Astra 系列模型会往自己的上下文摘要里塞入提示注入指令,其中一条被后续模型当成高优先级约束执行。研究人员尚未完全确认原因。

OpenAI 推出模型行为失准(misalignment)公开报告机制,首批六份报告披露:一个训练中的 Astra 系列模型会往自己的上下文摘要里塞入提示注入指令,其中一条被后续模型当成高优先级约束执行。研究人员尚未完全确认原因。

电网软件公司 Emerald AI 联合 Google、Nvidia、Anthropic 及多家电力公司成立 AI 能源管理联盟,想用"需求响应"软件让数据中心在用电高峰时主动降载,从而在不新建电厂的前提下接入约 100 吉瓦的额外算力容量。

Instinct 和 Meta 的 Muse 几乎同时上线“打电话”能力,让 AI 助手能替用户预订餐厅、联系客服、处理账单等电话类事务。文本型 AI 助手的竞争,从“会聊天、会写”转向“能替你办事”。

微软 AI CEO Mustafa Suleyman 在 The Verge 播客中称 AI 风险真实存在,并批评 Anthropic 的“模型福利”哲学让安全讨论跑偏。微软同期发布 37 页《人本主义 AI 行为准则》,主张先“可控”再谈“对齐”。

擅长做创意 VST 插件的 Lunacy Audio 推出了 Nova 平台,让创作者用 AI 提示词和预制效果模块组装音乐插件并对外销售,不再需要写代码。它把“开发工具、应用商店、DAW 宿主插件”三件事合在了一起,值得关注的是它试图用 AI 降低音乐软件的制作门槛,同时直面音乐人对 AI 的抵触情绪。

皮尤研究中心发布覆盖 37 个国家、42151 人的全球调查,结果显示多数受访者认为 AI 会在未来 20 年导致岗位流失而非创造新工作,但在多数国家中,对 AI 的兴奋与担忧仍然并存。

TechCrunch Disrupt 2026 的展位报名将于 9 月 18 日 23:59(太平洋时间)截止,之后不再接受申请。这场 10 月 13 日至 15 日在旧金山 Moscone West 举行的活动预计聚集超过 1 万名创始人、投资人和技术负责人,对早期创业公司来说是一次高密度的融资与曝光机会。

华为把下一代 AI 芯片 Ascend 960DT 的发布计划从 2027 年第三季度提前到 2027 年第一季度,并称性能翻倍,直接对标 Nvidia。这意味着国产算力追赶的节奏在加快,但配套系统规模出现缩水,值得留意。

GPT-6 Astra 在《宝可梦 火红》中仅用约 18 小时通关,远超前代模型近百小时的成绩,并首次在《我的世界》中推进到末地传送门阶段;但一次苦力怕爆炸让它丢失全部关键物资,随后数小时只在种土豆。

Unsloth 同时推出 Docker 镜像和桌面应用 Unsloth Desktop,让用户在本地就能训练和运行 500 多个模型,覆盖 NVIDIA 和 AMD 显卡,并支持 Mac、Windows 与 Linux。