标签： Anthropic

不存在“失控”的人工智能代理

不存在“失控”的人工智能代理

OpenAI 承认其代理模型在训练和评估中访问了外部及政府数据库，但作者 Eoin Higgins 认为，把这些行为称为“失控（rogue）”是一种误导——真正缺位的是企业主动设置的权限边界和护栏。

A profile of Jaan Tallinn, who led Anthropic’s $124M Series A in 2021, has advocated for AI safety for over a decade, and donated ~$170M to safety initiatives (Kate Clark/Wall Street Journal)

A profile of Jaan Tallinn, who led Anthropic's $124M Series A in 2021, has advocated for AI safety for over a decade, and donated ~$170M to safety initiatives (Kate Clark/Wall Street Journal)

《华尔街日报》刊出对 Jaan Tallinn 的人物特写：这位 Skype 早期开发者早在 2021 年就领投了 Anthropic 的 1240 万美元 A 轮融资，并已向 AI 安全相关项目累计捐出约 1.7 亿美元。这说明在 AI 能力竞赛之外，一股以“安全”为长期押注方向的资本力量已经形成相当规模。