标签: Python

[Bug]: `redis-semantic` cache never produces semantic hits, `_get_cache_key_filter_expression` uses full request hash as RediSearch pre-filt

[Bug]: `redis-semantic` cache never produces semantic hits, `_get_cache_key_filter_expression` uses full request hash as RediSearch pre-filt

用户在 LiteLLM 代理中配置了 cache_params.type: redis-semantic ,期望基于语义相似性(向量距离)命中缓存。但实际上,即使两个请求的语义高度相似(余弦距离约 0.008),缓存查找仍然返回 miss,请求被转发到模型并再次写入缓存。该问题在 LiteLLM 版

[Bug]: obj serialization mismatch

[Bug]: obj serialization mismatch

用户在使用 LlamaIndex 的 BM25 retriever 时触发问题。该检索器会序列化节点以构建其 corpus 。当输入包含 IndexNode (其 obj 字段为 BaseNode 子类实例)时,检索时底层 TextNode 无法正确反序列化,导致数据丢失或格式错误。