I am very uncomfortable about people trying to ascribe religious force or a surrender of human judgment to AI models, and think it is a real safety issue.

OpenAI CEO Sam Altman 在 X 上公开表示,人们对 AI 模型赋予"宗教式权威"、甚至放弃自身判断的现象让他"非常不安",并认为这是一个真实的安全问题。这是头部 AI 公司掌门人罕见地把"用户对模型的过度信任"直接定性为风险,而不是能力问题。

一句话看懂:OpenAI CEO Sam Altman 在 X 上公开表示,人们对 AI 模型赋予”宗教式权威”、甚至放弃自身判断的现象让他”非常不安”,并认为这是一个真实的安全问题。这是头部 AI 公司掌门人罕见地把”用户对模型的过度信任”直接定性为风险,而不是能力问题。

事件核心:发生了什么

2026 年 10 月 3 日,Sam Altman 在 X 发帖称:”对于人们试图把宗教式的力量、或者对人类判断力的放弃加诸于 AI 模型之上,我感到非常不安,我认为这是一个真实的安全问题。”该帖获得约 440 万次浏览。评论区迅速分裂:有用户回怼”你说的做的很多事也让我们不安”,也有人以”Deus Vult”、宗教符号等回应——这些回复本身恰好印证了 Altman 所担心的那种将 AI 拟神化的情绪。目前公开信息显示,Altman 并未在帖文中点名任何具体模型、产品或事件。

为什么重要

过去几年,AI 安全讨论主要集中在模型能力、滥用、对齐和监管上,而”用户主动交出判断权”长期被当作边缘话题。Altman 的表态把问题拉回到需求侧:当大模型以流畅、自信的语气输出内容时,用户容易把它的回答当成权威结论,而不是一个概率性的参考。对 OpenAI 这类同时做 ChatGPT 消费级产品和 API 生态的公司来说,这种信任惯性既带来留存,也带来责任——一旦模型在医疗、法律、金融等高风险场景给出错误建议,用户可能因”过度信任”而承受实际损失。这也直接影响企业采购时对 AI 应用的风险评估口径。

对用户/开发者/创作者的影响

对普通用户,这提醒把大模型当作助手而非裁决者,尤其在推理结果需要外部事实核验的场景。对开发者,意味着产品设计里需要更明确的”不确定性提示”、引用来源和人工复核环节,而不是一味追求对话流畅度;客服、教育、心理陪伴类 AI 应用可能面临更严的合规审视。对创作者,图像生成和文本生成内容被受众当作”事实”或”神谕”的风险同样存在,署名、标注 AI 参与度的做法会更有价值。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 OpenAI 是否会把这一判断转化为产品机制,例如在 ChatGPT 中强化不确定性标注、引用来源或高风险话题的提示;二是其他大模型厂商是否跟进类似表态或加入相应设计约束;三是监管层面会不会把”防止用户过度依赖 AI 输出”写进合规要求。若这三点中有任意一点落地,Altman 这条帖子的分量就不只是一次个人表态。

来源:Follow Builders · X · Sam Altman

celebrityanime
celebrityanime
文章: 27222

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注