大语言模型推理
2 条- 01奖励预算化降低强化学习中大语言模型推理的过早收敛
提出sharpness因子κ及有效κ_eff,通过奖励预算控制缓解RL for LLM推理中的策略分布尖锐化问题
- 02推理路径:读取与重塑MoE模型的测试时计算分配
利用MoE路由器识别并干预‘过度推理’行为(如冗余验证),实现按推理阶段(规划/推导/验证)精细化调控计算
提出sharpness因子κ及有效κ_eff,通过奖励预算控制缓解RL for LLM推理中的策略分布尖锐化问题
利用MoE路由器识别并干预‘过度推理’行为(如冗余验证),实现按推理阶段(规划/推导/验证)精细化调控计算