标签: Claude

即便没有 AI,担忧生物武器研发的理由也已经够多了

即便没有 AI,担忧生物武器研发的理由也已经够多了

Anthropic 本月公开的“滥用”报告披露了五起外国科学家试图绕过 Claude 安全护栏、查询“功能获得”(gain of function)研究信息的案例,账号已被封禁。这件事的重要性不在 AI 本身,而在于它把生物武器研发的低门槛风险重新摆上台面——正如 Wired 文章标题所说,即便没有 AI,担…

特朗普的AI安全“协议”,不过是个花哨的拉钩承诺

特朗普的AI安全“协议”,不过是个花哨的拉钩承诺

Google、Anthropic、Meta、OpenAI、xAI、Nvidia 六家公司签署了白宫主导的《超级智能协议》,承诺加强模型内部管控、外部评估与董事会监督,但这只是一份自愿性文件,缺乏强制约束。与此同时,FTC 正计划对多家 AI 公司展开消费者保护调查,监管压力并未因协议而消解。