一句话看懂:2026 年 11 月 9 日,OpenAI、Anthropic、微软、Mistral 等十家 AI 企业与法、加等六国签署《巴黎 AI 安全与安保宣言》,承诺为模型加装可关停机制并接受独立测试;但法国安全组织 CeSIA 认为该宣言未设统一风险阈值,也缺乏强制核查手段。
事件核心:发生了什么
宣言由法国总统马克龙在爱丽舍宫主持的会议上达成,OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei、微软总裁 Brad Smith 等约 50 人通过视频参会。签署企业还包括 Hugging Face、Cohere、Black Forest Labs、Sakana AI 等;签署国为法国、加拿大、芬兰、挪威、荷兰和巴林。美国、中国、Google 和 Meta 未签署。
签署方承诺开发能在训练和内部使用中关停大模型的失效保护机制,公开系统能力边界,并在适当情况下允许独立专家测试;非敏感测试结果将以统一格式发布,同时建立严重事故预警和举报渠道。但宣言未设截止日期,共享测试框架尚待制定。
为什么重要
这是前沿 AI 公司在首尔承诺和 G7 讨论之后的又一次自愿性安全表态,覆盖模型关停、第三方评测和事故通报等关键环节。不过,由于缺少统一风险阈值、未明确政府暂停高风险模型的权限,它更像方向性共识而非可执行规则。Google、Meta 和美国的缺席,也削弱了其全球覆盖度。
对用户/开发者/创作者的影响
目前公开信息显示,宣言不会直接改变现有 API 或产品可用性,但若共享测试框架落地,闭源和开源模型的发布节奏、评测披露方式可能受到影响。开发者需关注后续是否形成统一测试格式;使用大模型的应用方也应留意事故通报机制对服务稳定性的间接影响。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
一是共享测试框架何时出台、是否包含可核查的风险阈值;二是法国等签署国是否推动立法,赋予监管机构暂停模型的权力;三是马克龙提出的儿童 AI 工具“预认证”倡议能否形成具体规则。
来源:The Next Web


