一句话看懂:安全团队正把具备自主调查与处置能力的 AI Agent 当成“员工”来用,CertiK 最新报告指出,企业需要像管人一样管 AI:明确权限边界、人工介入时机与出错后的责任归属,而不仅是评估模型效果好不好。
事件核心:发生了什么
过去十年,AI 在安全运营中心(SOC)的角色主要是处理海量告警、标记异常,最终判断仍由人做。新一代 agentic AI 系统改变了这个分工:遇到凌晨的可疑登录,它不只是告警,而是能查询设备、比对历史登录地与威胁情报,判定账号失陷并直接冻结,全程在分析师打开工单之前完成。合规场景类似,Agent 可并行核查制裁名单、企业注册信息与新闻档案,甚至起草可疑活动报告。在加密领域,CertiK 早前研究显示,与朝鲜相关的黑客在一个月内将 Bybit 漏洞中窃取的 ETH 的 86.29% 转换为比特币,这类速度人类团队无法实时追踪,部分协议已把检测直接接到响应上,允许 Agent 在同一区块内暂停合约功能。CertiK 新报告的核心论点是:当 AI 能调查、决策并执行,“模型能不能用”只是一部分,企业还必须界定它能做什么、人何时接手、出错谁负责。
为什么重要
这意味着 AI 从“辅助工具”转向“执行主体”,安全与合规的工作流、审计方式和责任框架都要重写。攻击以机器速度发生、人才缺口长期存在、靠堆分析师清理误报无法扩展,是采用 Agent 的现实推力;但把系统权限交给 Agent,也让它成为高价值攻击目标,提示注入或被篡改的输入可能诱导其批准欺诈交易或关闭安全控制。更隐蔽的问题是自动化偏见:当系统连续 99 次正确,审查者第 100 次就会放松,而这恰是罕见重大错误最容易漏过的时刻。目前公开信息显示,针对自主系统的责任规则仍不完善,“算法自己做的”无法满足监管或法庭要求,部署与配置系统的组织仍需担责。
对用户/开发者/创作者的影响
对开发者与企业采购方,重点从选模型转向设计管控层:记录 Agent 看过的数据、决策路径与执行动作,设置权限最小化与人工复核节点,并把它接入现有 SIEM、工单与合规系统。对加密与金融团队,同区块自动响应能减少损失,但需配套熔断阈值与回滚预案。合规人员的工作会从“从零写报告”变成复核与签署,但必须对 Agent 产出的结论保留独立验证能力。对普通用户,账户可能被 AI 更快冻结或解冻,申诉与纠错机制是否顺畅将直接影响体验。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
一是 CertiK 提出的“面向 AI 员工队伍的合规”是否被主流监管采信,形成审计标准;二是厂商能否给出可验证的 Agent 决策日志与权限控制 API,让企业敢真正放权;三是责任划分在司法与监管层面是否出现明确判例,决定自主 Agent 在多快范围内被允许直接执行处置动作。
来源:The Next Web


