AI聊天机器人集体痴迷的虚构人物Elias Thorne

多家主流大模型在生成故事时,反复编造出同一个虚构人物 Elias Thorne——一个灯塔看守人、钟表匠、图书管理员。康奈尔大学研究团队发现,这并非巧合,而是 AI 安全对齐训练和模型代际“近亲繁殖”共同导致的系统性偏差。

一句话看懂:多家主流大模型在生成故事时,反复编造出同一个虚构人物 Elias Thorne——一个灯塔看守人、钟表匠、图书管理员。康奈尔大学研究团队发现,这并非巧合,而是 AI 安全对齐训练和模型代际“近亲繁殖”共同导致的系统性偏差。

事件核心:发生了什么

据 404 Media 报道,康奈尔大学研究人员分析了来自 OpenAI、Anthropic、Google 等主流大模型生成的约 2 万篇 AI 故事,发现同一批名字和职业反复出现:Elias、Mara、Elara、灯塔看守人、钟表匠、图书管理员等词汇出现在 88% 的故事中,其中“灯塔看守人 Elias”单独出现在近三分之二的故事里。

更值得注意的是,这个名字已经“溢出”到 AI 生成内容生态中:亚马逊上出现了署名 Elias Thorne 的 AI 灌水书籍和音乐,YouTube 视频以及部分健康指南中也能看到这个名字,软件工程师 Daniel May 也注意到了这一现象。

为什么重要

研究人员最初推测 Elias Thorne 来自某本书或互联网文化,但未能找到证据。目前更可信的解释指向 AI 安全与对齐训练的副作用:AI 公司为规避版权和成人内容风险,会通过训练将模型导向更“安全”的素材池,导致可用资源变窄。

叠加另一个因素——现代大模型常使用早期 AI 系统生成的数据进行训练,相当于在同一套“基因 pool”里反复近亲繁殖。一旦某个名字被发明出来,它就会在不同模型版本间被不断传递和强化。这暴露出当前大模型训练数据生态的一个结构性缺陷:看似海量的训练语料,实际可用的多样性可能远比想象中稀薄。

对用户/开发者/创作者的影响

对普通用户而言,这意味着 AI 生成的故事、文案甚至健康建议可能比预期更单调、更不可靠。对开发者来说,如果依赖大模型 API 批量生成内容,输出同质化会直接影响产品体验和内容质量。对创作者而言,AI 辅助生成的作品可能无意中带上 Elias Thorne 这类“模型幽灵”,需要注意原创性和版权风险。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

目前公开信息显示,这是一个跨模型、跨公司的普遍现象,而非某一家模型的个别问题。

值得关注的后续

后续可观察三个方向:一是 AI 公司是否会在训练数据中主动引入更多样化的素材来源以打破同质化;二是研究人员能否最终追溯到 Elias Thorne 的原始出处;三是随着 AI 生成内容持续涌入互联网,这种“模型近亲繁殖”效应是否会进一步加剧,影响下一代模型的训练质量。

来源:Hacker News · 24h最热

celebrityanime
celebrityanime
文章: 24495

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注