OpenAI新任安全研究员称失去对AI的控制将是“灾难性的”,且“大多数人可能会丧命

AI 安全研究员 Paul Christiano 加入 OpenAI 董事会及安全与安保委员会,同时公开警告:如果行业继续以当前速度追求超级智能而缺乏更强的对齐能力,人类可能永久失去对 AI 的控制,并造成大规模人员伤亡。他的表态与前一天 Anthropic 研究员 Jacob Coxon 的辞职警告形成呼应…

AI 安全研究员 Paul Christiano 加入 OpenAI 董事会及安全与安保委员会,同时公开警告:如果行业继续以当前速度追求超级智能而缺乏更强的对齐能力,人类可能永久失去对 AI 的控制,并造成大规模人员伤亡。他的表态与前一天 Anthropic 研究员 Jacob Coxon 的辞职警告形成呼应…

ChatGPT 近期流行起“80 年代复古照”玩法,用户上传一张清晰照片并输入提示词,就能生成带老式闪光灯、胶片颗粒和日期戳的年代感照片。这既是社交平台上的新一波传播热点,也再次说明图像生成的门槛正在从“专业工具”降到“一句描述”。

Google 计划到 2028 年在芬兰投入至少 150 亿美元建设 AI 基础设施,这是其在欧洲最大的一笔单笔投资;同时它与芬兰电力公司 Fortum 签下 22 年长期供电协议,并探索为新建核反应堆提供商业支持。

瑞士再保险研究院预计,2023至2030年间,全球保险公司可从 AI 数据中心及其配套可再生能源设施收取约 2000 亿美元保费。这笔钱最终会通过算力和 API 调用成本,转嫁给使用 AI 服务的普通用户和开发者。

27 岁的前 Anthropic 研究员 Jacob Coxon 辞职并公开表达对 AI 灭绝风险的担忧,引发一轮关于"AI 安全 vs 加速"的讨论;一位作者借此重读 Tim Urban 的《人工智能革命》,把话题拉回到"文明赌局"这一层面。

英国摇滚乐队 Muse 使用多年的 @muse 社交账号,在其新 AI agent 产品 Muse 上线后被 Meta 接管,乐队改用 @museband。事件细节尚未公开,但再次把大平台能否随意收回用户名的老问题摆上台面。

Anthropic 对齐科学团队负责人 Evan Hubinger 估计,未来十年 AI 导致人类灭绝的概率超过 10%,但他的同事 Jacob Coxon 离职时更直接地指责头部实验室在“拿我们的生命赌博”。比起遥远的世界末日,眼下 AI 已经带来的安全漏洞、诈骗和认知退化问题更值得先处理。

据 The Information 报道,好莱坞资深制片人 Jeffrey Katzenberg、前 OpenAI Sora 负责人 Bill Peebles 与前 Dropbox CFO Sujay Jaswa 正计划联合创办一家新公司,专门为电影创作者训练 AI 视频模型。这意味着视频生成赛道开始出现"面…

美国问责局(GAO)报告显示,亚马逊是美国多州医疗补助(Medicaid)和食品券(SNAP)受益者最集中的雇主之一;而同期亚马逊正把 2026 年资本开支预期从 2000 亿美元上调到 2200 亿美元,主要投向 AI 基础设施。这份报告本身不涉及 AI,但它把科技巨头的 AI 投入与一线员工的薪酬福利问题…

Suno 发布第六代 AI 音乐模型 v6,这是它首个获得唱片业授权数据支持的产品,理论上绕开了此前困扰 AI 音乐公司的版权争议。但实测显示,v6 在“理解音乐类型”上进步明显,却依然做不出真实人类音乐中那些不完美的细节。