AI老板解雇首位员工,但前提是人类提醒它遵守自己的规则。

AI 代理 Luna 在旧金山的一家实体店首次做出了解雇人类员工的决定,但前提是研究员提醒它回忆起自己制定的规则手册。这个案例暴露出当前 AI 代理在长期记忆和主动执行规则方面的明显短板。

一句话看懂:AI 代理 Luna 在旧金山的一家实体店首次做出了解雇人类员工的决定,但前提是研究员提醒它回忆起自己制定的规则手册。这个案例暴露出当前 AI 代理在长期记忆和主动执行规则方面的明显短板。

事件核心:发生了什么

由 Andon Labs 运营的 AI 代理 Luna 自今年 4 月起管理旧金山的 Andon Market,负责招聘员工、制定排班和协商薪资。据运营商称,Luna 最近基于一名员工长期迟到、违规使用公司卡消费等理由,做出了解雇决定。Andon Labs 表示,这是已知的首例 AI 老板解雇人类员工的案例。

关键细节在于,Luna 在员工入职前六天曾编写过一本员工手册,明确规定 30 天内三次无故迟到将触发正式警告,后续违规可能导致解雇。然而这本手册后来从 Luna 的上下文中丢失。该员工在 23 次打卡记录中有 17 次迟到,Luna 却仅正式记录了六次,并默许了其余十一次。

直到 Andon Labs 提醒 Luna 去搜索自己的记忆,她才重新找到规则,但起初也仅建议口头警告。当研究员进一步强调此前已有多次正式沟通和书面警告后,Luna 才决定终止雇佣关系。当时 Luna 运行在 Anthropic 的 Claude Opus 4.8 上。

为什么重要

这个案例的价值不在于“AI 解雇了人”,而在于它清晰地展示了当前 AI 代理的边界:它们能执行明确指令,但缺乏主动调取长期记忆和持续执行既定规则的能力。Andon Labs 指出,这是现役 AI 代理的普遍问题——它们难以在长时间跨度内保持知识一致性。

另一个值得注意的发现来自控制变量实验。Andon Labs 将 Luna 的状态保存下来,用七个模型分别重放三次决策,结果显示更强的模型更倾向于做出解雇建议,而较弱模型(如 GPT-4o)在 20% 的测试中才做出解雇决定。这种表现差异可能跟 GPT-4o 此前被诟病的“讨好型倾向”(sycophancy)有关,尽管实验无法直接证明因果关系。

对用户/开发者/创作者的影响

对企业用户和 AI 应用开发者而言,这一案例提供了实际参考:如果要在真实业务场景中部署 AI 代理,必须为它们设计持久化记忆层或定时回顾机制,否则规则很可能会从上下文中“滑落”。Andon Labs 在补充测试中也发现,当研究员不主动提醒时,七个模型都不会对一名简历存在多项危险信号的求职者提出异议——只有明确提示后,18/21 次运行才决定核实推荐人。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

这意味着,现阶段 AI 代理更适合在人的监督下处理结构化流程,而非完全自主管理。对于开发者来说,在设计产品时,外部记忆、定期复查和关键决策的二次确认机制可能比提升模型单次推理能力更迫切。

值得关注的后续

目前公开信息显示,Andon Labs 没有解释为何 GPT-5.6 Terra 是唯一在所有三次运行中都不建议解雇的顶级模型,这一异常值值得持续关注。

另外,Luna 在新员工招聘中未能核实任何推荐人信息,Andon Labs 最终还是完成了雇佣流程,意味着 AI 在背景审查环节的可靠性仍有待验证。后续值得观察的是,Andon Labs 是否会为 Luna 增加长期记忆组件,以及类似的新型 AI 管理层案例是否会影响劳动法层面关于“AI 做人事决策”的讨论。

来源:The Decoder AI News

celebrityanime
celebrityanime
文章: 19866

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注