DualPipe

DualPipe 是 DeepSeek-V3 技术报告中提出的双向流水线并行算法，实现了前向与反向计算-通信阶段的完全重叠并减少流水线气泡；DualPipeV 是其对半切分后的 V 形变体，用一半的设备数达到相同的气泡开销。