大模型优化

2026.09.24 星期四

第 49 期

主题 · 大模型优化

2 条

01
GPT-6 的提示词缓存优化
GPT-6 通过提升缓存命中率、新增诊断工具、显式断点和精细控制，降低延迟与调用成本。
openai.com·OpenAI·1天前大模型优化推理加速成本控制
02
Meta新研究：字节模型蒸馏后，天花板破了
Meta提出新型知识蒸馏方法，显著提升小模型在多任务基准上的性能，突破原有能力上限
qbitai.com·量子位·09/15模型压缩知识蒸馏大模型优化