决策模型
3 条- 01Flide:通过精确状态分叉加速决策推理
为LLM智能体中的轻量级决策模型设计高效推理引擎,消除前缀重复计算开销并保持输出概率准确性。
- 02DecisionRank:面向决策模型重排序器的在线策略蒸馏
提出基于项目空间的在线策略蒸馏方法,弥合生成式教师模型排名输出与决策模型分数预测间的表征鸿沟。
- 03无需检索器的检索:使用决策模型在文档中导航
提出DecisionRAG,用预训练语言模型的决策能力替代传统嵌入检索,单次前向传播完成候选分支联合评估。
为LLM智能体中的轻量级决策模型设计高效推理引擎,消除前缀重复计算开销并保持输出概率准确性。
提出基于项目空间的在线策略蒸馏方法,弥合生成式教师模型排名输出与决策模型分数预测间的表征鸿沟。
提出DecisionRAG,用预训练语言模型的决策能力替代传统嵌入检索,单次前向传播完成候选分支联合评估。