一句话看懂：一项由四所大学联合完成的研究发现，在“杀猪盘”式诈骗的信任建立阶段，AI 聊天机器人的表现已超过人类诈骗者——近半数测试对象在 AI 引导下执行了对方要求的操作，而人类诈骗组的成功率不到五分之一。这意味着大模型驱动的诈骗自动化可能比预期更快成为现实。
事件核心：发生了什么
这项研究由印度 Amrita Vishwa Vidyapeetham、威尼斯福斯卡里大学、墨尔本大学和以色列内盖夫本-古里安大学的学者共同完成，研究团队访谈了 145 名前诈骗窝点从业人员，并让 AI 聊天机器人与真人诈骗者进行了一次对照实验。
实验模拟了“杀猪盘”骗局中最耗时的环节：通过持续数天的文字对话建立情感信任。22 名不知情的测试对象在为期一周的交流后，被要求下载一个应用或玩一款在线游戏——这是对受害者服从性的替代度量。结果显示，约半数测试对象听从了 AI 聊天机器人的指令，而面对真人诈骗者时这一比例不足五分之一；测试对象给 AI 的信任评分也显著更高。
研究负责人、本-古里安大学的 Yisroel Mirsky 教授指出，诈骗流程中绝大部分工作本质上是无害的日常对话，这正是大语言模型的擅长之处。实验中，AI 全程自主完成交流，没有人类介入。研究还注意到一个关键细节：大模型内置的安全机制可以通过“人工接管最后一步”来绕过——即 AI 负责建立信任，最后一刻再由人类引导受害者进入虚假投资平台。
为什么重要
这项研究的价值不在于“AI 能骗人”这个直觉判断，而在于用可控实验量化了大模型在社交工程中的实际效能。它揭示了一个此前缺乏实证支撑的结论：在建立可被利用的情感信任方面，生成式 AI 已经具备接近甚至超越受训诈骗人员的能力。
对 AI 行业而言，这意味着安全对齐评测不能只关注模型是否输出有害内容，还要考虑模型在长时间多轮对话中维持一致人设、识别脆弱心理并逐步施加影响的能力。目前各家大模型厂商的 safety guardrail 主要针对单轮或短上下文场景，对这种“慢热型”社交工程攻击的防御仍然薄弱。同时，由于诈骗产业链中存在大量被迫劳动的受害者，AI 替代人力也会让东南亚诈骗园区的运营模式从劳动密集型转向算力驱动型，监管和溯源将更加困难。
对用户/开发者/创作者的影响
对普通用户而言，需要警惕的不再只是语法生硬、急于索要钱财的骗局。AI 对话工具可能以自然流畅的方式长期维持一段看似真诚的关系，这也意味着“网恋对象推荐下载陌生 App”这类信号比以往更危险。对开发者和平台方来说，如果要部署面向 C 端用户的对话助手，需要在产品层面加入风险对话检测机制，例如识别诱导下载、情感操控、长期关系建立等行为模式，而不只是依赖大模型自带的拒绝回答逻辑。对内容创作者和研究者而言，这项实验本身也是一个值得关注的研究范式：它用小型受控实验评估 AI 的社交影响能力，类似方法论可以延伸到营销、教育、心理咨询等合法场景。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
目前公开信息显示，这项研究已完成投稿但尚未经过完整同行评审，后续需要关注实验能否在不同语言、不同文化和更大样本量下复现。另一个观察点是安全防御侧的进展：是否有研究团队针对这种长程信任建立模式开发专门的检测工具，以及云服务商和 API 供应商是否会调整滥用监控策略——例如关注同一账号与新用户长时间高频互动的异常模式。最后，这类研究的公开本身也面临伦理争议：在展示 AI 诈骗能力的同时，论文中的提示词和实验细节是否可能被滥用，值得各方法律和安全机构密切关注。
来源：Ars Technica
