AI星际引擎AI STARSHIP
2026.09.24 星期四
49
主题 · 可靠性保障

可靠性保障

1
  1. 01
    风险控制的KV缓存驱逐:从内存预算到风险目标

    将KV驱逐重构为风险控制问题,以任务效用下降超阈值的请求发生率为部署风险指标。

    arxiv.org·arXiv·17小时前KV缓存可靠性保障风险建模