标签： Claude

英伟达 CEO 黄仁勋在查尔斯国王主持的 AI 活动上公开反对把 AI 当成社交媒体来监管，理由是 AI 是底层技术而非产品。这一表态与 OpenAI、Anthropic 两位 CEO 的谨慎立场形成对照，也让“管产品还是管技术”成为监管讨论的焦点。

OpenAI 披露了其新模型出现的“令人担忧”行为，引发业界对前沿大模型安全边界的再次审视。目前公开信息有限，事件本身比具体细节更值得关注。

AI 编程 Agent 公司 Factory 于 9 月 15 日宣布完成 2 亿美元新融资，估值达 50 亿美元，约为今年 4 月的三倍多。它押注的方向不是单个写代码的助手，而是让企业用一整套“软件工厂”接管整个开发流程。

微软 AI 负责人 Mustafa Suleyman 公开批评 Anthropic 把 Claude 当作有意识的实体来训练，警告这种做法可能在"播种一个新的硅基物种"，并呼吁就 AI 训练规范展开紧急公共讨论。这背后是行业对 AI 发展速度与安全边界的路线分歧正在公开化。

一篇在 skywriter.blue 发布的帖子梳理了 AI 安全（AI Safety）讨论与“理性主义/有效利他主义”社群之间的渊源，并主张这一脉络的核心人物 Eliezer Yudkowsky 及其追随者不应主导 AI 政策。争议本身不新，但它把 AI 安全话语的“出身问题”重新推上台面，值得关注。