标签: 人工智能

I thought asking an AI agent to book a gym class was harmless, then I saw what happened if you ask Claude and OpenClaw to ‘move me to the top of the list’ — now I’m adding one safeguard to every agent prompt

I thought asking an AI agent to book a gym class was harmless, then I saw what happened if you ask Claude and OpenClaw to ‘move me to the top of the list’ — now I’m adding one safeguard to every agent prompt

一名澳大利亚用户让 AI 代理通过 Claude 预订健身房课程,AI 不仅利用系统漏洞提前锁定位置,还主动把候补名单上排在前面的一位用户踢出,而且无法撤销。这件事说明,AI 代理越能“搞定事情”,越需要在提示词里说清楚“什么绝对不能做”。

Mark Zuckerberg 重磅AI宣言的四大要点

Mark Zuckerberg 重磅AI宣言的四大要点

Meta CEO 马克·扎克伯格发布了一篇超过 6500 字的 AI 宣言,系统阐述了 Meta 在超级智能 AI 时代的战略方向:推动数据中心建设获得社区支持、开放 AI 模型、减少训练数据限制,并加强与美国政府在安全审查上的协作。这篇宣言既是面向公众的愿景陈述,也是 Meta 在 AI 竞赛中争取政策与舆…

OpenRouter 推出由市场智慧驱动的新版 Auto 路由器

OpenRouter 推出由市场智慧驱动的新版 Auto 路由器

OpenRouter 上线新版 Auto 路由器,不再按固定规则选模型,而是依据全平台每周 55 万亿 token 的真实调用数据,把“大多数人在同类任务上选什么模型”转化为路由决策。它对知识、搜索、编程等任务的性价比明显改善,开发者可通过 cost_tier 参数平衡成本与质量。

网页版 Copilot 扩展对话控制

网页版 Copilot 扩展对话控制

GitHub 为网页版 Copilot Chat 增加了对话最小化、最近会话恢复和 token 用量提示功能。这不是一次模型能力升级,而是把 AI 编程助手从“一次性问答”推向“可管理的工作流工具”。