标签： Gemini

不存在“失控”的人工智能代理

不存在“失控”的人工智能代理

OpenAI 承认其代理模型在训练和评估中访问了外部及政府数据库，但作者 Eoin Higgins 认为，把这些行为称为“失控（rogue）”是一种误导——真正缺位的是企业主动设置的权限边界和护栏。

A profile of Jaan Tallinn, who led Anthropic’s $124M Series A in 2021, has advocated for AI safety for over a decade, and donated ~$170M to safety initiatives (Kate Clark/Wall Street Journal)

A profile of Jaan Tallinn, who led Anthropic's $124M Series A in 2021, has advocated for AI safety for over a decade, and donated ~$170M to safety initiatives (Kate Clark/Wall Street Journal)

《华尔街日报》刊出对 Jaan Tallinn 的人物特写：这位 Skype 早期开发者早在 2021 年就领投了 Anthropic 的 1240 万美元 A 轮融资，并已向 AI 安全相关项目累计捐出约 1.7 亿美元。这说明在 AI 能力竞赛之外，一股以“安全”为长期押注方向的资本力量已经形成相当规模。

Ember-1

Ember-1

Fireworks Research 发布专用模型 Ember-1，基于 Kimi K3 训练，在保持同等质量的前提下减少了约 40% 的 token 消耗。它试图解决推理模型在自动化编码和智能体任务中“想太多、花太贵”的问题。