AI Agent 最大的问题:它在企业里只是个“无名之辈” | 技术趋势

AI Agent 最大的问题:它在企业里只是个“无名之辈” | 技术趋势

AI Agent 最大的问题:它在企业里只是个“无名之辈” | 技术趋势

一句话看懂:AI Agent(智能体)在企业落地中面临的最大障碍不是技术能力,而是“身份缺失”——它无法像人类员工那样提供可审计的身份链路、权限记录和操作日志,导致合规风险急剧上升。Snowflake 等企业在实践中发现,只有从架构层面强制赋予 Agent 可验证身份,才能将信任从愿景变为现实。

事件核心:发生了什么

Snowflake 在其官方技术分析中指出,尽管过去两年 AI Agent 在数据库查询、文档总结、工作流路由和交易发起等任务上展现出强大能力,但在进入企业生产环境时,大多数组织尚未解决一个基础治理问题:Agent 缺乏可验证的身份。当 Agent 执行操作时,没有一条类似人类员工的“身份-权限-操作”链路,导致合规团队在审计时无法回答“谁创建了它”“它访问了哪些数据”“它的输出是否越界”等基本问题。例如,一个贷款承销 Agent 一年后遭遇借款人异议,如果没有持久记录,合规重建几乎不可能。Snowflake 通过自身 Go-To-Market AI Assistant 实践提出,解决之道在于将身份、权限、生命周期追踪和输出治理内建于 Agent 创建阶段,而非事后补充。

为什么重要

这揭示了当前 AI Agent 行业“重能力、轻治理”的结构性缺陷。传统身份系统为静态角色设计,而 Agent 常为临时任务而生、跨源组合数据,其衍生洞察可能超越任何单个数据源的权限边界。目前公开信息显示,包括受监管金融、医疗在内的行业已因此推迟 Agent 的全面采用。Snowflake 的案例表明,一旦 Agent 身份问题被解决(如其 Agent 服务 6000 名员工、每周回答超 35000 个问题),企业信任度会显著提升。这对所有构建 Agent 基础设施的云平台、数据平台和 AI 公司来说,是一个必须面对的架构级挑战。

对用户/开发者/创作者的影响

  • 企业采购者与合规团队:在引入 Agent 前,应要求供应商提供明确的身份模型——包括 Agent 创建时的权限定义、数据访问范围、操作记录持久化能力。否则,Agent 的每一次自主行动都可能成为不可追溯的责任风险。
  • AI 应用开发者:需要将治理逻辑嵌入代码,而非外包给运维。例如,在 Agent 启动时分配带到期时间的身份令牌,而非继承调用者权限;对多个数据源组合后的输出设置策略检查,阻止潜藏的越界行为。
  • 平台与云服务商:应借鉴 Snowflake 的做法,在数据访问控制之外,提供“衍生洞察”级别的策略引擎,让审计日志在 Agent 生命周期结束后依然可查。这是差异化竞争的关键方向。

值得关注的后续

  1. 合规工具落地:Snowflake 及其客户(如 Tipalti,年处理 750 亿美元交易)的实践能否成为行业标准?是否有独立治理产品(如 Agent 身份管理服务)涌现?
  2. 监管动态:欧盟 AI 法案等法规是否会明确要求 Agent 具备可审计身份?受监管行业的 Agent 部署节奏可能因此改变。
  3. 开源 Agent 框架的治理演进:LangChain、AutoGPT 等社区是否会在架构层加入权限与审计模块,或将治理责任留给开发者自研?
GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

来源:InfoQ CN

celebrityanime
celebrityanime
文章: 3202

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注