标签: Anthropic

今天,一名Anthropic的AI研究员宣布辞职,因为他认为AI可能在2030年以前就毁灭全人类。 马斯克也转发了,目前该帖子已经有接近6000万字阅读。 Jacob Coxon 同时也是前OpenAI的员工,以他的亲身经历,他认为这两家公司都在非常不负责任地奔向能够自我改进的超级智能,这是在拿整个人类社会的安全来做赌注。 他称,很多 AI 高管和资深研究人员虽然在公开场合说得比较温和,但私下里真的相信,超级智能可能在2030年以前就…

今天,一名Anthropic的AI研究员宣布辞职,因为他认为AI可能在2030年以前就毁灭全人类。 马斯克也转发了,目前该帖子已经有接近6000万字阅读。 Jacob Coxon 同时也是前OpenAI的员工,以他的亲身经历,他认为这两家公司都在非常不负责任地奔向能够自我改进的超级智能,这是在拿整个人类社会的安全来做赌注。 他称,很多 AI 高管和资深研究人员虽然在公开场合说得比较温和,但私下里真的相信,超级智能可能在2030年以前就…

Anthropic 研究员 Jacob Coxon 公开辞职,称自己所在的公司与前东家 OpenAI 都在不负责任地冲向可自我改进的超级智能,并认为这类系统可能在 2030 年前带来人类灭绝级风险。马斯克转发后,该帖在 X 上的阅读量已接近 6000 万。

OpenAI新任安全研究员称失去对AI的控制将是“灾难性的”,且“大多数人可能会丧命

OpenAI新任安全研究员称失去对AI的控制将是“灾难性的”,且“大多数人可能会丧命

AI 安全研究员 Paul Christiano 加入 OpenAI 董事会及安全与安保委员会,同时公开警告:如果行业继续以当前速度追求超级智能而缺乏更强的对齐能力,人类可能永久失去对 AI 的控制,并造成大规模人员伤亡。他的表态与前一天 Anthropic 研究员 Jacob Coxon 的辞职警告形成呼应…