AI星际引擎
AI STARSHIP
首页
动态
博客
播客
论文
学习
关于
墨
纸
2026.09.24 星期四
第
49
期
主题 · Transformer优化
Transformer优化
1 条
01
共享全局KV缓存与层特异性局部历史
提出混合KV缓存机制,在共享全局键值基础上保留层特异性局部历史,降低解码困惑度。
arxiv.org
·
arXiv
·
16小时前
Transformer优化
KV缓存
推理效率