AI星际引擎AI STARSHIP
2026.11.08 星期日
第 94 期
主题 · 大语言模型推理

大语言模型推理

2 条
  1. 01
    奖励预算化降低强化学习中大语言模型推理的过早收敛

    提出sharpness因子κ及有效κ_eff,通过奖励预算控制缓解RL for LLM推理中的策略分布尖锐化问题

  2. 02
    推理路径:读取与重塑MoE模型的测试时计算分配

    利用MoE路由器识别并干预‘过度推理’行为(如冗余验证),实现按推理阶段(规划/推导/验证)精细化调控计算