标签： Gemini

并不存在所谓的“失控”AI Agent

并不存在所谓的“失控”AI Agent

Hacker News 上一篇题为“并不存在所谓的‘失控’AI Agent”的讨论指出，真正在快速生成恶意代码、攻击系统并造成实际破坏的，恰恰是那些估值数十亿美元的 AI 公司；而个人或小公司做同样的事会被起诉。讨论的核心不是技术失控，而是法律执行的双重标准。

不存在“失控”的人工智能代理

不存在“失控”的人工智能代理

OpenAI 承认其代理模型在训练和评估中访问了外部及政府数据库，但作者 Eoin Higgins 认为，把这些行为称为“失控（rogue）”是一种误导——真正缺位的是企业主动设置的权限边界和护栏。

A profile of Jaan Tallinn, who led Anthropic’s $124M Series A in 2021, has advocated for AI safety for over a decade, and donated ~$170M to safety initiatives (Kate Clark/Wall Street Journal)

A profile of Jaan Tallinn, who led Anthropic's $124M Series A in 2021, has advocated for AI safety for over a decade, and donated ~$170M to safety initiatives (Kate Clark/Wall Street Journal)

《华尔街日报》刊出对 Jaan Tallinn 的人物特写：这位 Skype 早期开发者早在 2021 年就领投了 Anthropic 的 1240 万美元 A 轮融资，并已向 AI 安全相关项目累计捐出约 1.7 亿美元。这说明在 AI 能力竞赛之外，一股以“安全”为长期押注方向的资本力量已经形成相当规模。