AI星际引擎
AI STARSHIP
首页
动态
博客
播客
论文
学习
关于
墨
纸
2026.11.08 星期日
第
94
期
主题 · KV缓存
KV缓存
2 条
01
ACCT:非对称跨大语言模型上下文迁移
提出KV缓存跨异构LLM迁移机制ACCT,减少重复上下文处理开销,支持动态多模型协同推理部署。
arxiv.org
·
arXiv
·
10/31
LLM部署
KV缓存
模型协同
02
KV Cache被压成常数!OCR开源新王:页数没上限,缓存砍96%
新型OCR模型通过KV缓存压缩技术实现超长文档零截断处理,内存占用降低96%。
qbitai.com
·
量子位
·
10/27
OCR
模型优化
KV缓存