统一 Radix 缓存:为混合模型前缀缓存构建单一树结构
1
2小时前·Hubei📄 论文研究 · 5 小时前
LMSYS 团队提出 Unified Radix Cache,用单一 token 键控 radix 拓扑统一管理混合模型的 FULL、SWA 和 MAMBA 组件缓存,各组件独立执行路径、滑动窗口和检查点复用语义。
📎 来源:LMSYS:Blog(Chatbot Arena 团队) | https://www.lmsys.org/blog/2026-08-11-unified-radix-cache
🔗 原文:AI大事件- 暂无回复