分布式训练
3 条- 01DAPO:字节跳动Seed与清华大学AIR联合开源的强化学习系统
字节跳动与清华联合发布开源强化学习框架DAPO,支持大规模分布式训练和算法快速迭代。
- 02重新审视基于符号的分布式方差缩减方法
提出新型符号化方差缩减算法,解决异构数据下符号聚合偏差问题,在非凸随机与有限和优化中达到最优收敛率。
- 03弥合同构与异构异步优化之间的鸿沟出人意料地困难
理论分析揭示异步分布式优化中同构与异构设定存在根本性收敛鸿沟,现有算法难以兼顾数据分布差异与通信延迟鲁棒性。
字节跳动与清华联合发布开源强化学习框架DAPO,支持大规模分布式训练和算法快速迭代。
提出新型符号化方差缩减算法,解决异构数据下符号聚合偏差问题,在非凸随机与有限和优化中达到最优收敛率。
理论分析揭示异步分布式优化中同构与异构设定存在根本性收敛鸿沟,现有算法难以兼顾数据分布差异与通信延迟鲁棒性。