AI星际引擎
AI STARSHIP
首页
动态
博客
播客
论文
学习
关于
墨
纸
2026.11.08 星期日
第
94
期
主题 · 权重正则化
权重正则化
1 条
01
MuonGS:采用松弛权重范数控制预训练大语言模型
提出基于累积有效学习率的权重范数分析法,揭示预训练中范数控制对优化稳定性的关键作用。
arxiv.org
·
arXiv
·
10/28
模型预训练
优化理论
权重正则化