Google Cloud 的 Always-On Memory Agent 用 Gemini 3.1 Flash-Lite 上的持续 LLM 整合取代了 RAG 和嵌入

Google Cloud 发布了一款名为“Always-On Memory Agent”的新服务,该服务摒弃了传统的检索增强生成(RAG)和嵌入向量技术,转而基于 Gemini 3.1 Flash-Lite 模型,通过持续的大语言模型内部状态整合来实现长期记忆功能。这是对现有 AI 记忆架构的一次直接技术路线…

Google Cloud 的 Always-On Memory Agent 用 Gemini 3.1 Flash-Lite 上的持续 LLM 整合取代了 RAG 和嵌入

一句话看懂:Google Cloud 发布了一款名为“Always-On Memory Agent”的新服务,该服务摒弃了传统的检索增强生成(RAG)和嵌入向量技术,转而基于 Gemini 3.1 Flash-Lite 模型,通过持续的大语言模型内部状态整合来实现长期记忆功能。这是对现有 AI 记忆架构的一次直接技术路线挑战。

事件核心:发生了什么

据 MarkTechPost Research 报道,Google Cloud 正式推出了“Always-On Memory Agent”服务。该服务的核心创新在于,它放弃了过去 AI 应用普遍采用的 RAG(检索增强生成)和嵌入向量存储方案。取而代之的是,它利用 Gemini 3.1 Flash-Lite 模型的推理能力,在对话过程中持续地将新信息整合进模型自身的上下文记忆中。这种做法不再依赖外部数据库进行检索,而是通过 LLM 内在的“记忆整合”能力来保持对历史信息的理解。目前公开信息显示,该服务旨在为长期运行的对话、实时任务代理和需要状态感知的 AI 应用提供更流畅、低延迟的体验。

为什么重要

长期以来,构建具有长期记忆的 AI Agent 主要依赖 RAG 架构:将信息分块、向量化后存入数据库,每次推理时进行相似度检索。这种方法虽然有效,但存在检索精度不足、维护成本高和上下文丢失等问题。Google Cloud 此次推出的“持续 LLM 整合”方案,本质上是一种架构上的“去外部化”——尝试让模型自己管理记忆。如果该方案在成本和准确性上得到验证,它将直接影响 AI 工程领域的架构选择标准,可能推动 RAG 和向量数据库行业迎来技术路线反思。这也反映了谷歌在 Gemini 系列模型推理能力上的自信,试图通过模型自身能力替代外部基础设施。

对用户/开发者/创作者的影响

对于正在构建聊天机器人、客服系统或任务自动化 Agent 的开发者,这项服务直接提供了一个“开箱即用”的记忆解决方案,无需自行搭建和维护向量数据库(如 Pinecone 或 Weaviate),也减少了对 RAG 架构的依赖。这意味着开发者的技术栈可以变得更轻量,部署和运维复杂度降低。对于普通用户,使用 AI 进行长时间对话时(例如跟 AI 合作一个持续数周的项目),AI 将更容易记住早前的讨论细节,体验更自然。对于企业采购者,需要考虑的是:该方案强绑定 Google Cloud 生态和 Gemini 模型,存在平台锁定风险,且目前缺乏独立第三方基准测试来证明其在综合成本上优于传统 RAG 方案。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

首先,Always-On Memory Agent 的定价细节尚未公布。它是作为 Gemini 模型的免费增值功能,还是按时间或记忆量单独计费,将直接影响其市场接受度。其次,该技术在一个月内被部署到实际高并发商业场景中的表现至关重要,需要观察其记忆容量上限以及随着记忆量增长,推理速度和成本是否会显著劣化。最后,主要竞品如 OpenAI 和 Anthropic 是否会在各自的模型中引入类似的“内部记忆整合”功能,或推出对应的 API 服务,将是判断该方向是否为行业趋势的关键信号。目前,市场仍在等待 Google Cloud 提供更完整的测评数据和开发者反馈。

来源:MarkTechPost Research

celebrityanime
celebrityanime
文章: 14025

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注