Muse 为你所有亲友生成详细个人档案

Meta 的 AI 助手 Muse 下载量已达数百万,研究人员通过普通聊天界面提取出其内部指令,显示它会为用户的家人、伴侣、朋友、同事等每个人生成详细档案。这让 AI 助手的“记忆”能力与 Meta 的社交数据积累叠加在一起,引发对隐私边界的新一轮关注。

一句话看懂:Meta 的 AI 助手 Muse 下载量已达数百万,研究人员通过普通聊天界面提取出其内部指令,显示它会为用户的家人、伴侣、朋友、同事等每个人生成详细档案。这让 AI 助手的“记忆”能力与 Meta 的社交数据积累叠加在一起,引发对隐私边界的新一轮关注。

事件核心:发生了什么

Meta 推出的个人 AI 助手 Muse 近期在消费者中快速流行,下载量达到数百万,用户将其连接银行账户、消息记录和健康数据,让它代为完成任务。独立 AI 安全研究员 Karan Joshi 通过常规聊天界面,直接要求 Muse 复制并分享自身软件文件,从而提取出大量系统提示和操作指令,并将结果提供给 Wired。

提取出的指令显示,Muse 被要求为“用户生活中的每一个人”生成页面,这一过程每小时运行一次,对象涵盖家人、伴侣、朋友、同事、合作者以及用户关注的人。页面由结构化文本文件构成,初始可能较空,随后补充 Facts、History、The relationship、In common、Open threads、Strengthening 等板块,记录居住地、职业、反复出现的共同话题、生日和纪念日,甚至包括“三月的旅行、已化解的争执”这类关系细节。Meta 强调这些文件本意是透明的,且 Muse 只在有“证据”时填写,编造细节比留空更糟。

为什么重要

这则新闻的关键不只是“AI 会记东西”。ChatGPT 等大模型早已能提供关系建议,但 Muse 的设计与 Meta 掌握的社交网络数据形成叠加:它不只是被动记住对话,而是系统性地为真实关系建模,并给出“如何改善这段关系”的建议。牛津大学 AI 伦理研究所副教授 Carissa Véliz 指出,用户给 AI 的信息远多于 AI 给用户的信息,系统不仅记录用户明说的内容,还会推断和拼接其他数据来源。目前公开信息显示,Muse 的架构为每个用户分配独立虚拟机存储数据,其他 agent 无法访问,用户可随时清除记忆或断开外部服务,Meta 也声称发送邮件、购物等操作前会寻求人工确认,并提供审计日志。但这些设计能否打消用户对“关系被量化”的顾虑,仍是问题。

对用户/开发者/创作者的影响

对普通用户来说,Muse 展示了一种新型 AI 应用形态:助手不再局限于单次问答,而是持续构建关于你社交圈的内部知识库,用于提醒、建议和关系维护。对开发者和创业者而言,这意味着“记忆 + 关系图谱”正在成为 AI 助手的重要竞争维度,同时也把数据访问权限、用户同意和可解释性推到产品设计前台。对关注合规的团队,Meta 的独立虚拟机、审计日志和人工确认机制,可能成为后续 agent 产品在隐私设计上的参考样本,但目前尚无第三方对其安全性做完整验证。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

第一,Meta 是否会在产品层面公开 Muse 生成档案的具体范围和保留时长,以及用户能否批量查看、导出或删除这些关系页面。第二,研究者提取系统提示的方式是否会被 Meta 封堵,从而改变 Muse 的透明度和可审计性。第三,其他大模型厂商是否跟进类似的“关系记忆”功能,以及监管机构会否将这类社交关系推断纳入现有隐私法规的审查范围。

来源:Wired AI

celebrityanime
celebrityanime
文章: 27113

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注