AI 开发者为何亲手造出令自己恐惧的技术?

资深科技记者 Kevin Roose 在新书访谈中指出,Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman 等 AI 公司领导者之所以加速开发强大 AI,部分原因是担心“不负责任的人”抢先,因此“好人”必须赢得竞赛;这揭示了当前 AI 竞赛中安全担忧与商业竞速并存的矛盾。

一句话看懂:资深科技记者 Kevin Roose 在新书访谈中指出,Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman 等 AI 公司领导者之所以加速开发强大 AI,部分原因是担心“不负责任的人”抢先,因此“好人”必须赢得竞赛;这揭示了当前 AI 竞赛中安全担忧与商业竞速并存的矛盾。

事件核心:发生了什么

2026 年 10 月,离开《纽约时报》后加盟 NPR 的科技记者 Kevin Roose 推出新书《The AGI Chronicles: The Inside Story of the Race to Create an Artificial Superintelligence》,并接受 Business Insider 旗下播客 Channels 采访。Roose 在访谈中提出一个核心观察:许多最担心 AI 力量的人,同时也是最强大 AI 公司的运营者。他认为,Dario Amodei 和 Sam Altman 等人加速构建 AI,至少部分原因是害怕更不负责任的竞争者抢先。Roose 提到,旧金山科技圈内认为 AI 带来末日概率在 50% 或以上的人并不罕见。他还引用 Amodei 2017 年文章《The Big Blob of Compute Hypothesis》,指出只要增加算力、数据和训练时间就能获得更智能系统的“简单配方”,一旦被验证,竞赛就不可避免。访谈录制于特朗普与 Altman、Amodei、Elon Musk 等科技领袖举行 AI 峰会的前一天,峰会后特朗普宣布联邦监管不必要,因为行业会自我监管。

为什么重要

这一访谈点出了 AI 行业的结构性张力:安全担忧与商业竞争相互强化。如果“好人必须抢先”的逻辑成立,那么闭源大模型的训练和推理会进一步加速,算力需求持续膨胀,而开源与闭源路线之争可能被安全叙事重新包装。对行业而言,这意味着头部公司可能以“负责任地发展”为由获取更多政策空间,同时继续推高模型能力边界。目前公开信息显示,AI 领导者担忧的不仅是“P(doom)”,还包括权力丧失、大流行、失业等连续谱系风险,但对应监管框架仍停留在概念讨论,例如在实验室嵌入评估员或建立国际检查机制。

对用户/开发者/创作者的影响

对开发者而言,如果“竞赛优先”成为行业默认逻辑,API 和模型能力的迭代速度可能不会放缓,但安全评估和合规成本可能上升。闭源模型厂商可能继续强调可控部署,而开源社区则面临更严格的算力或数据审查。对普通用户和创作者,AI 应用、图像生成、文本生成等工具的功能升级仍会快速到来,但使用条款、内容过滤和地域可用性可能因监管博弈而频繁变动。企业采购方需要关注供应商的安全承诺是否与商业目标冲突,避免在关键业务中依赖单一闭源 API。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是特朗普 AI 峰会后行业自我监管承诺是否落地,还是仅停留在口头;二是 OpenAI、Anthropic 等公司是否会在模型卡或 API 政策中披露更多安全评估细节;三是“嵌入评估员”等提案是否进入立法或标准制定程序,以及开源社区能否在算力与合规压力下保持活跃。

来源:Business Insider

celebrityanime
celebrityanime
文章: 27956

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注