OpenAI设中期选举作战室,监控ChatGPT政治滥用

OpenAI宣布在11月3日美国中期选举当天设立“选举作战室”,由部分员工专门监测ChatGPT等模型是否被用于传播选举虚假信息或生成政治人物图像,这是大模型公司首次以常设团队形式介入选举安全。

一句话看懂:OpenAI宣布在11月3日美国中期选举当天设立“选举作战室”,由部分员工专门监测ChatGPT等模型是否被用于传播选举虚假信息或生成政治人物图像,这是大模型公司首次以常设团队形式介入选举安全。

事件核心:发生了什么

据Mashable援引Politico报道,OpenAI将在2026年11月3日全美中期选举期间启用“选举运营中心”(Elections Operations Center),由一支精选员工团队实时监测ChatGPT在选举场景中的使用情况,识别潜在滥用并执行平台政策。OpenAI公民与战略风险负责人Josh Lawson表示,该中心整合了公司多年来在可靠投票信息、对抗工具滥用和支持选举防护者方面的工作。此前2024年总统选举期间,多家科技公司曾联合承诺通过公众教育、透明政策和深度伪造检测工具来应对生成式AI对选举的冲击。

为什么重要

这反映出AI公司正从“发布政策”转向“选举日值守”。根据Brennan Center for Justice的研究,Gemini、Meta AI等主流模型在阻止生成虚假选举图像方面存在漏洞,ChatGPT是少数在限制逼真图像生成上有所改善的模型;但NewsGuard测试ChatGPT Images 2.5时仍能生成政治人物的逼真图像。与此同时,NewsGuard称外国政府主导的虚假信息活动在选举前有所增加,主要在X等社交平台放大,超过一半美国人曾被此类信息误导。OpenAI此举能否把“模型护栏”落实到“运营响应”,将影响监管对AI平台责任的认定。

对用户/开发者/创作者的影响

对普通用户,选举期间向ChatGPT询问投票信息、候选人资料时,回答可能受到更严格的政策限制或提示,涉及政治人物图像生成的需求大概率会被拒绝。对开发者和创作者,通过API调用图像生成或政治内容相关能力时,需要留意OpenAI可能临时收紧使用条款和审核阈值,依赖相关接口做选举类内容产品的团队应提前准备降级方案。企业采购方则可能把“选举合规响应能力”纳入AI供应商评估。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是该中心是否公开处置案例或透明度报告,让外界可核查其响应速度;二是ChatGPT Images系列在政治人物图像上的拦截率是否出现可测量变化;三是Google、Meta等竞品是否跟进设立类似选举运营团队,以及联邦或州级监管是否将此类机制写入合规要求。

来源:Mashable

celebrityanime
celebrityanime
文章: 30886

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注