AI星际引擎
AI STARSHIP
首页
动态
博客
播客
论文
学习
关于
墨
纸
2026.11.08 星期日
第
94
期
主题 · FSDP
FSDP
1 条
01
FSDP通信的终局:面向复制引擎、RDMA与NVSwitch的布局感知集合通信
分析FSDP2中张量布局转换与通信开销瓶颈,提出布局感知集体通信优化方案,降低训练步耗时。
arxiv.org
·
arXiv
·
10/28
分布式训练
通信优化
FSDP