一句话看懂:OpenAI 宣布捣毁了一个疑似源自俄罗斯的社交影响力操控活动,攻击者利用 ChatGPT 账号伪装成“国际智库”专家,试图营造俄罗斯优于西方国家的舆论氛围。此事值得关注的点在于,大模型本身没有“作恶”,但作为内容分发与信誉背书工具,它正被更精巧地纳入现代信息战的基础设施。
事件核心:发生了什么
OpenAI 在官方报告中披露,已识别并切断了某个与俄罗斯关联的隐蔽宣传网络。该网络的核心是一个名为“国际伯克研究所”(IBI)的虚构学术机构:其网站盗用真实学者(如弗朗西斯·福山、诺姆·乔姆斯基)的文章并错误署名,甚至列出了在机构成立前就已去世的“专家”,以此营造学术权威感。
攻击者注册了多个 ChatGPT 账号,专门用于生成 IBI 网站的推广文案、配图及社交媒体头像。他们通过 X(原 Twitter)、LinkedIn、Facebook、Substack 和 Telegram 等平台分发带 AI 生成图片的内容,并利用其他账号在 Substack 评论区自动回复真实用户,制造互动假象。调查人员发现,操作者在提示词中刻意要求“隐藏俄语语言痕迹”,但网站中仍出现将德国“红绿灯联盟”称为“Svetofor 联盟”等斯拉夫语直译痕迹,暴露出俄语写作、再翻译成其他语言的生成流程。
为强化叙事,该网站还推出所谓“伯克主权指数”,将梵蒂冈城(面积不足 0.5 平方公里)的得分排在西班牙之上,并给予俄罗斯最高的军事分数。OpenAI 表示,该活动整体影响有限,部分 Telegram 频道仅有 1 万至 2 万粉丝,但其伪装基础设施的完成度远超以往常见的水军操作。
为什么重要
这次事件的核心警示并非“AI 被用来写假新闻”,而是生成式 AI 正在降低构建“可信伪装”的成本。以往大规模舆论操控往往依赖人工撰写文案或水军刷量,内容容易被识破。而现在,攻击者仅需调用 ChatGPT,就能完成智库网站论文摘要、多平台适配文案、统一风格头像生成甚至自动回复脚本的整套物料生产,且可以进行多语言翻译、润色以抹除操作者母语特征。
对 AI 行业而言,这意味着安全对抗已经从“检测模型输出内容的真伪”升级为“识别内容背后是否有组织化操纵意图”。OpenAI 将此次行动定义为“威胁情报响应”,并说明其已利用内部监控系统定位相关账号。这种“身份层面的供应链安全”问题——即 AI 生成内容被用来给虚假实体做信誉背书——将成为闭源模型厂商在合规与安全层面必须持续投入的方向。同时,IBI 网站盗用真实学者文章并错误署名的做法也暴露出学术伦理与大模型内容溯源体系的薄弱环节。
对用户/开发者/创作者的影响
对于依赖 AI 工具生产内容的创作者和运营者,此事件提供了一个负面操作样本:即便是有明确意识形态倾向的内容,若采用“虚构机构+盗用学术成果+机器生成互动”的组合,也依然存在被平台识别并下架的风险。OpenAI 官方表示,本次打击表明其有能力追踪到使用 ChatGPT 进行批量内容生成和分发的账户矩阵。这意味着,任何使用 API 或网页端进行高并发、多账号内容输出的人群,都可能面临更严格的调用频率与行为模式审查。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
对普通用户而言,该事件提示两点:一是网络上标注“学术研究”的机构来源不一定可信,需交叉验证论文原作者与机构关联;二是 AI 生成的个人头像和评论回复越来越难以肉眼识别,“看起来像真人”不等于“真的是真人”。开发者若涉及社交平台自动回复、多账号管理或内容批量发布类应用,需留意平台方对 AI 生成内容标识和平台操纵行为的合规要求变化,避免被误判为同类滥用行为。
值得关注的后续
目前公开信息显示,OpenAI 已封禁相关账户,但并未透露具体账号数量及是否向执法机构移交线索。后续可关注三个观察点:
第一,OpenAI 是否会开源或定期发布类似“影响操作”报告,将账号行为特征(如提示词语言偏好、生成内容结构、互动频率)抽象为可共享的检测规则,供第三方安全团队调用;
第二,X、LinkedIn 等社交平台是否会对“机构认证”流程增加更严格的实体审核,例如要求提供法人注册文件或验证学术成员在职状态,以挤压此类伪智库的生存空间;
第三,针对 ChatGPT 本身,OpenAI 是否会推出“内容来源声明”机制,让用户能查询某段文字是否由 AI 生成,以及生成时是否经过多语言翻译改写——这将是判断信息传播链路真实性的关键基础设施。
来源:TechRadar


