AI星际引擎
AI STARSHIP
首页
动态
博客
播客
论文
学习
关于
墨
纸
2026.11.08 星期日
第
94
期
主题 · 微调性能
微调性能
1 条
01
预训练数据规模逆转Muon-AdamW微调性能差距
发现当预训练数据量足够大时,AdamW在下游任务微调中反超Muon优化器,且该拐点随模型增大而前移。
arxiv.org
·
arXiv
·
6天前
优化算法
大模型训练
微调性能