提出正交知识蒸馏方法，在OV-AVEL任务中融合视觉与音频教师模型的互补边界与语义信息，提升定位鲁棒性

提出阶段感知的自退休蒸馏机制，动态淘汰不可靠教师信号，提升多轮智能体RL训练效率与泛化性。

Meta提出新型知识蒸馏方法，显著提升小模型在多任务基准上的性能，突破原有能力上限

提出开源AI实验室应通过知识蒸馏压缩前沿大模型，降低部署门槛并提升可访问性。