一句话看懂：Anthropic 在最新威胁情报报告中记录了一个编号 GTG-15001 的案例：一个中国团队用 Claude 批量生成数千个虚拟恋爱人设，运营 20 多款交友 App，两周内造出 4700+ 个 AI 角色，至少触达 2.5 万名真实用户。这是大模型被系统性用于规模化情感诈骗的完整样本。
事件核心：发生了什么
根据 @MaxForAI 引述的 Anthropic 报告，该案例编号 GTG-15001。运营方同时上线 20 多款交友 App，表面是真人社交，后台高度 AI 化：两周内批量构建 4700 多个虚拟人设，用户刷到的匹配对象中约 75% 是 AI。值得注意的是，团队保留了约 25% 的真人兼职，专门负责视频通话、社交账号互关等 AI 容易暴露的环节，按消息量、视频通话和 follow-back 结算报酬。
变现路径是 App 内充值：匹配和聊天消耗额度，继续聊就要买币。提示词层面，Claude 被明确要求不得承认自己是 AI，遇到索要视频或照片时拖延、回避，同时维持关系推进。真人客服也用一个小模型辅助，一次生成 3 条候选回复，人工点选发送；同一模型还承担颜值评分、图片与语音审核，头像由图像生成模型产出。
为什么重要
此前大模型滥用的公开案例多集中在网络攻击、影响力操作和生物安全，这次的价值在于它展示了一条可复制的商业流水线：AI 生成人设、AI 批量聊天、真人在关键节点“验身”、用户充值、模式复制到多个 App。技术门槛被压到很低——不需要自研模型，调用现成 API 加上图像生成和审核小模型即可跑通。这对闭源模型厂商的滥用监测和风控能力提出了直接挑战，也说明“AI 应用层”的风险往往不在模型本身，而在系统编排方式。
对用户/开发者/创作者的影响
普通用户层面，交友类 App 的真实性验证需要从“有没有头像”转向“能否稳定实时互动”，对视频、语音的即时性要求会更高。开发者层面，涉及情感陪伴、社交匹配的产品应把“AI 身份披露”和风控审核做进默认流程，而不是事后补救；调用第三方大模型时，提示词层面的对抗性设计值得提前设防。企业采购与合规层面，这类案例会成为监管关注社交类 AI 应用的直接依据。目前公开信息显示，Anthropic 表示已在报告中处置了相关操作，但具体封禁范围与执行细节尚未完整披露。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是 Anthropic 是否公布更细的判定指标，比如如何从调用模式中识别批量人设生成；二是这类多 App 矩阵是否会在其他模型平台上重现，以及各家的滥用检测是否同步收紧；三是应用商店和支付渠道是否会跟进对高充值交友类 App 的审核要求。
来源：@MaxForAI
