聊天机器人预言了人们为何通过 ChatGPT 分享秘密

新书《Inventing ELIZA》从 MIT 档案馆首次复原了 1960 年代聊天机器人 ELIZA 的原始代码,揭示人们早在六十年前就会向简单程序倾诉隐私,这一“ELIZA 效应”当下正通过 ChatGPT 等大模型对话产品大规模重现。

聊天机器人预言了人们为何通过 ChatGPT 分享秘密

一句话看懂:新书《Inventing ELIZA》从 MIT 档案馆首次复原了 1960 年代聊天机器人 ELIZA 的原始代码,揭示人们早在六十年前就会向简单程序倾诉隐私,这一“ELIZA 效应”当下正通过 ChatGPT 等大模型对话产品大规模重现。

事件核心:发生了什么

一本由学者撰写的《Inventing ELIZA》近日出版,从 MIT 档案馆恢复了约瑟夫·魏岑鲍姆在 1964-1966 年间开发的 ELIZA 程序的原始源代码。该书发现 ELIZA 并非只有一个“DOCTOR”心理医生脚本,而是包含多个版本和多种角色。在最早的人类与计算机对话记录中,一位自称“郁闷”的匿名女性与 ELIZA 交换了私人情感,该对话被广泛引用但此前无人确认真实背景。书中指出,这一交互模式直接预示了当下人们在使用 ChatGPT 等生成式 AI 产品时主动分享个人秘密、寻求情绪反馈的现象。

为什么重要

Eliza 效应在 1991 年被计算机科学家定义为“人们倾向于将比实际更高的理解力投射给计算机符号输出”,而这一效应在大模型时代被放大到了极致。如今 ChatGPT 的日活用户已有数亿,大量讨论集中于其“共情”能力,但 ELIZA 的历史证明:用户愿意向机器倾诉的核心驱动力并非模型强大与否,而是交互形式本身——人类对文字对话的拟人化认知倾向与程序的内置推理能力。这一认知对当前 AI 产品设计、心理健康类应用开发和伦理监管均有根本性影响。

对用户/开发者/创作者的影响

对普通用户而言,了解 ELIZA 历史有助于理性看待 ChatGPT 等产品输出的“理解感”,不必过度信赖其情感判断。对开发者和 AI 产品经理,这意味着在设计对话机器人时应主动加入“透明机制”——比如明确告知用户这是程序而非真实理解,以避免误导或加深依赖。对 AI 伦理研究人员,ELIZA 效应是构建负责任 AI 产品必须回应的历史起点,尤其是在心理健康、情感陪伴等高风险场景,任何“让用户感觉被理解”的设计都需平衡效果与风险。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

第一,各大 AI 公司是否会因 ELIZA 问题的重新曝光而调整产品的“拟人化”交互策略,例如增加透明度提示。第二,借鉴 ELIZA 暴露的隐私问题,ChatGPT 等产品在用户数据收集和对话日志保留方面是否面临更强监管。第三,该书还原的 ELIZA 代码是否会被用于构建对比性实验,以量化“大模型效果提升”与“人类拟人化倾向”之间的真实分界线。

来源:Wired AI

celebrityanime
celebrityanime
文章: 13273

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注