2026 智源大会｜AI 智能体安全论坛
一句话看懂：2026年6月13日上午，智源大会将举办AI智能体安全论坛，聚焦大模型从生成走向自主规划后带来的记忆投毒、工具链劫持等新风险，探讨如何在高自主性条件下维持人类控制并与网络安全体系融合。这是AI安全领域从模型级转向系统级防护的一次关键行业集结。
事件核心：发生了什么
第8届智源大会将于2026年6月12日-13日在北京召开，由智源研究院和安远AI联合主办的“AI智能体安全论坛”定于6月13日上午举行。论坛围绕“研究与工程的交汇点”，设置两大主题：一是“自主智能体的前沿风险”，二是“构建可信智能体系统”。参会嘉宾包括南洋理工大学校长讲席教授安波、复旦大学计算与智能创新学院执行院长杨珉、新南威尔士大学Scientia AI教授Toby Walsh、MIT AI安全研究员Stephen Casper等十余位全球学者。演讲内容覆盖可信智能体威胁与防御、全栈安全技术、人类控制的治理挑战、Agentic AI生态的地缘政治与权力集中等议题，并将举行英文圆桌讨论。
为什么重要
本次论坛的议题切换标志着一个行业判断的变化：大模型的安全焦点正从内容安全（如越狱攻击、有害生成）扩展到系统安全——即智能体在执行任务时因记忆投毒、工具链劫持、多步失控等新型威胁而导致的攻击面扩大问题。目前公开信息显示，国内安全研究主力（如智源、复旦、北邮、北大）与海外顶尖学者（Toby Walsh、Stephen Casper）均参与探讨，说明全球AI社区已经将“高自主性条件下的有效人类控制”视为下一代智能体能否规模化落地的核心条件。对于AI企业和开发者而言，谁能在Agent安全护栏、红队攻防、AI原生安全基础设施上率先拿出可验证方案，谁就更可能抢占B端与G端市场的信任先机。
对用户/开发者/创作者的影响
对于普通用户：短期内，智能体类产品（如AI助手、自动化工具）的调用安全防护将升级，用户数据的记忆和工具调用过程可能面临更严格的权限与审计机制。对于开发者与AI创业者：论坛提出的“从模型到系统”的安全转向，意味着开发Agent应用时要额外投入安全评测和护栏设计。基于现有信息，智源和安远AI正在推动的“可验证、可落地”系统能力，可能在未来转化为开放的安全测评基准或开源工具，降低开发者的安全实施成本。对于企业采购方与合规人员：在将Agent引入工作流或对外提供智能体服务前，需评估工具的链式调用风险、记忆泄漏概率以及多步失控的监控方案，这将影响采购决策和合同条款设计。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
1. 论坛结束后，年会否发布智能体安全评测标准或红队测试方法论，并为行业提供可复用的安全测试框架。2. 安远AI等第三方机构是否提出针对Agent“人类控制权”的治理建议或政策白皮书。3. 参会的国内顶尖研究团队（如复旦杨珉团队、北大杨耀东团队）未来是否围绕Agent全栈安全推出开源工具或商业产品。
来源：Readhub · AI
