首次系统揭示MoE架构在数据重复场景下比稠密Transformer更易过拟合，揭示稀疏激活与数据重复的耦合风险。