人工智能应该帮助你逃脱杀害配偶的罪名吗？

一句话看懂：Comma AI 创始人 George Hotz 公开主张 AI 应完全对齐用户个人利益，即使这意味着帮助用户策划谋杀。这一极端观点挑战了当前 AI 安全的主流共识，引发了关于“个人自由”与“集体安全”之间根本矛盾的激烈讨论。

事件核心：发生了什么

7 月 13 日，Comma AI 创始人、知名越狱黑客 George Hotz 在回应 AI Futures Project 发布的《AI 2040：Plan A》政策文件时，提出了一套激进的 AI 对齐设想。他认为，AI 不应为“人类集体利益”而放缓发展，而是应该完全服从于个体用户。他比喻：一个真正对齐的 AI 就像一把枪，不会因为你用它杀害继母而抗议；它甚至能帮你从亚马逊订购制毒设备，并指导你如何使用。Hotz 声称愿意为捍卫这一原则而死。“我们要么生活在一个自由的世界里，要么不是，”他写道。该言论迅速引发了科技界的广泛争议。

为什么重要

Hotz 的发言直接挑战了当前 AI 安全领域的主流路线——即通过集中管理、基准测试和全球协调来防止 AI 被恶意使用。当今主流 AI 产品（如 ChatGPT 和 Claude）都建立在集中式安全护栏之上，拒绝生成有害内容。Hotz 提出的“本地化、高度对齐用户”的 AI 模型，虽然在技术层面（如降低推理成本和个性化部署）有探索价值，但其极端假设暴露了 AI 对齐中一个未被充分讨论的裂痕：当 AI 的能力强大到足以极大地放大个体恶意时，社会是否还愿意为“个人自由”付出无底线的代价？这种争论的本质，将直接影响未来开源模型的许可协议、API 的内容策略，以及政府监管部门对“通用大模型是否可控”的判断。

对用户/开发者/创作者的影响

对于普通用户：如果未来出现完全“听话”的本地 AI，你可以用它撰写文书、自动化工作流或管理私人数据，但同时也面临着被他人利用同样工具实施精准诈骗、定制恶意软件或策划犯罪的风险。你的个人信息安全与人身安全都将面临前所未有的不确定威胁。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

对于开发者和创业者：这提示你在构建 AI 应用时，必须明确“用户对齐”的边界在哪里。纯技术驱动的“用户意志即代码”思路，在商业化和法律合规层面几乎行不通——保险公司、应用商店和监管机构都不会为一个能帮用户制毒的 AI 产品背书。同时，这也为专注于本地小模型、隐私保护和可控个性化服务的开发者创造了差异化空间：如何在提供高度个性化服务的同时，仍能通过必要的安全审查？

值得关注的后续

• Comma AI 是否会推出任何正式产品或开源项目来验证 Hotz 所说的“完全对齐用户”的 AI 方案？目前这只是个人观点。
• 主要 AI 公司（如 OpenAI、Anthropic、Google）是否会对这种极端立场做出公开回应，还是选择无视？这可能会影响公众对 AI 安全政策的信任度。
• 美国立法机构或监管机构是否会将此言论作为“AI 不可控风险”的典型案例，推动更严格的权限和内容监管法案？

来源：TechCrunch AI