AI星际引擎AI STARSHIP
2026.09.24 星期四
49
主题 · LLM 推理

LLM 推理

1
  1. 01
    面向亚二次注意力的异构系统解耦:重新思考

    提出针对亚二次注意力 LLM 的新型解耦推理架构,显著提升吞吐量与能效

    arxiv.org·arXiv·09/12LLM 推理系统架构能效优化