研究发现,ChatGPT、Claude和Gemini等美国AI模型在面对涉华等敏感政治提问时,经常无意间拒绝批评威权政府或复读其官方立场,呈现出类似中国式审查的效果。https://t.co/3ixrD8GN40

据华尔街日报中文网报道,一项研究发现ChatGPT、Claude、Gemini等美国主流AI模型在涉华敏感政治提问中,频繁回避批评或复读官方立场,行为模式呈现类似中国式审查的效果。这暴露了大模型训练数据与对齐环节的系统性问题。

一句话看懂:据华尔街日报中文网报道,一项研究发现ChatGPT、Claude、Gemini等美国主流AI模型在涉华敏感政治提问中,频繁回避批评或复读官方立场,行为模式呈现类似中国式审查的效果。这暴露了大模型训练数据与对齐环节的系统性问题。

事件核心:发生了什么

华尔街日报中文网8月13日发布报道,援引一项针对美国主流AI模型的研究称,ChatGPT(OpenAI)、Claude(Anthropic)和Gemini(Google)在回答涉华等敏感政治提问时,经常无意间拒绝批评威权政府,或直接复述其官方立场。研究者指出,这类行为并非由外部审查触发,而是模型在训练和对齐过程中内化的结果。该报道在社交平台引发大量讨论,截至发布约半天内阅读量已超过145.7万次。

为什么重要

这一发现揭示了大模型对齐(alignment)中一个被低估的问题:为减少争议性输出而设计的“安全训练”和RLHF(基于人类反馈的强化学习),在不同政治语境下可能演变成系统性偏差。美国AI公司在处理涉华议题时倾向于采取更保守的回答策略,而这种“安全偏移”恰好与威权政府期望的信息控制模式形成重叠,导致模型行为在事实上趋同于审查。

从竞争格局看,当头部闭源模型在敏感议题上的输出高度趋同,用户在选择服务时实际上面临的行为选项也在收窄。社交媒体上有评论猜测,这一现象可能与模型训练语料中包含大量中文数据集,甚至美国公司蒸馏了中国模型有关。若属实,意味着数据供应链的国别来源会直接影响模型的政治行为特征,也再次引发对开源与闭源路线在价值观层面透明度的讨论。

对用户/开发者/创作者的影响

普通用户使用ChatGPT、Claude或Gemini讨论

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

celebrityanime
celebrityanime
文章: 18317

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注