从零开始构建 AI 智能体记忆

开发者 Jaydeep Karale 发布系列文章第 3 篇,用 Python、Ollama、SQLite 和嵌入模型从零搭建智能体记忆系统,不依赖 LangChain、LangGraph 或托管记忆服务,目标是让开发者看清"智能体记住一件事"背后的真实机制。

开发者 Jaydeep Karale 发布系列文章第 3 篇,用 Python、Ollama、SQLite 和嵌入模型从零搭建智能体记忆系统,不依赖 LangChain、LangGraph 或托管记忆服务,目标是让开发者看清"智能体记住一件事"背后的真实机制。
![[Bug]: assistant_tokens_mask misaligned after multimodal placeholder expansion](https://www.chat-gpts.plus/wp-content/uploads/2026/09/57223-39345890-768x403.jpg)
当你在 vLLM 中开启 return_assistant_tokens_mask=True ,并且 prompt 里带有多模态占位符(audio / image / video)时,占位符展开后 assistant_tokens_mask 的条目数少于 token 数,导致第 9 位之后的 mas

该报错通常出现在 vLLM 把 --gpu-memory-utilization 调得很高(如 0.98)、同时启用 CUDA graph capture 的场景:启动时的显存检查通过并按估算值分配了偏大的 KV cache,随后真实的 CUDA graph capture 却因显存不足抛出 CUD

Vox 科技记者 Adam Clark Estes 撰文讨论如何在 AI 无孔不入的当下做一名"AI 极简主义者"。文章援引盖洛普、皮尤等调查数据指出,美国人对 AI 的不信任度已明显高于信任度,而对普通用户来说,完全退出并不现实,但可以通过关闭系统级 AI 功能、调整搜索习惯、限制社交数据暴露等方式减少被动…

Hacker News 上关于“AI 聊天机器人为何越来越擅长改变他人想法”的讨论指出,LLM 的说服力并非来自更聪明的论证,而是来自它能无成本、无情绪地持续输出大量论据——其中一部分可能并不准确。这正在改变人机对话中的信任与对抗结构。
![Misc. bug: [SYCL] incorrect func sig for `ggml_backend_sycl_split_buffer_type`](https://www.chat-gpts.plus/wp-content/uploads/2026/09/28980-ec167301-768x403.jpg)
该问题出现在使用 Intel SYCL 后端、并且可能涉及多 GPU 场景的 llama.cpp 构建/运行环境中,核心原因是 SYCL 侧的 ggml_backend_sycl_split_buffer_type 函数签名与公共头文件中的函数指针 typedef 不一致。优先检查 SYCL 后端源

该问题通常出现在单模型模式(非 router 模式)的 llama-server WebUI(llama-ui)中:桌面宽度(>= 768px)下推理等级选择菜单不再显示,而移动端宽度(<= 767px)仍可见。优先排查是否是 PR #27746 引入的桌面端渲染回归,并确认是否已有修复 PR #2

在 ROCm 上启用 VLLM_USE_BREAKABLE_CUDAGRAPH=1 后,引擎启动阶段会把 compilation_config.custom_ops 解析为包含 'all' ,从而启用 sparse_attn_indexer_kpool ;AMD 实现只定义了 forward_nat

这个报错通常出现在 vLLM 的 MoE 权重加载路径读取 moe_config.tp_shard_with_padding 时,测试桩中的 SimpleNamespace 配置没有定义该属性。优先排查测试/调用方传入的 MoE 配置是否包含 tp_shard_with_padding ,它与 pa

这个报错通常发生在用 AutoProcessor.from_pretrained() / AutoImageProcessor.from_pretrained() 加载 qwen3_5 / qwen3_vl 系列(如 Qwen3.8-27B)检查点时,内部映射指向了从未随版本发布的 Qwen3VLI