DeepSeek
共 9 篇文章
DeepEP
DeepEP 是 DeepSeek 开源的高性能专家并行（EP）通信库，为 MoE 的 dispatch/combine 提供高吞吐、低延迟的 all-to-all GPU kernel，支持 FP8 等低精度，完全 JIT 编译、安装无需 CUDA 编译；V2 重构后以更少 SM 资源达到极限性能，SM 占用较 V1 最多降低 4 倍。
DeepSpec
DeepSpec 是 DeepSeek 开源的全栈投机解码（speculative decoding）草稿模型训练与评估代码库，包含数据准备、草稿模型实现、训练代码和评估脚本。内置 DSpark、DFlash、Eagle3 三种算法，并发布了它们在 Qwen3-4B/8B/14B 与 gemma-4-12B 上的检查点，评估覆盖 gsm8k、math500、aime25、humaneval、mbpp 等九个基准。
DeepGEMM
DeepSeek 开源的统一高性能 tensor core 内核库，把 GEMM（FP8/FP4/BF16）、融合 MoE 与通信重叠（Mega MoE）、闪电索引器 MQA 评分、HyperConnection 等原语整合进单一 CUDA 代码库，通过轻量 JIT 模块运行时编译，安装时无需 CUDA 编译，性能比肩甚至超越专家调优库。
FlashMLA
FlashMLA 是 DeepSeek 开源的高效多头潜在注意力（MLA）kernel 库，为 DeepSeek-V3 与 V3.2-Exp 的稀疏注意力（DSA）和密集注意力提供 prefill 与解码实现。文档给出 H800/B200 上的性能数据、支持矩阵、安装方式，以及 MLA 解码、稀疏 prefill、密集 MHA prefill 的调用示例与 FP8 KV cache 格式说明。
TileKernels
DeepSeek 开源的 GPU kernel 库，基于 TileLang 编写，面向 LLM 算子优化，多数 kernel 在计算密度和内存带宽上接近硬件极限。涵盖 MoE 路由、量化、转置、Engram 门控、Manifold HyperConnection 等，并给出环境要求、安装、测试与项目结构说明。
DeepSeek-OCR-2
DeepSeek-OCR-2 是 DeepSeek 的视觉因果流（Visual Causal Flow）OCR 模型，探索更类人的视觉编码。仓库提供基于 vLLM 和 Transformers 的推理流程，支持图片流式输出、PDF 并发处理与 OmniDocBench v1.5 批量评测，并支持动态分辨率（默认 0-6 个 768×768 局部视图加 1 个 1024×1024 全局视图）。
DeepSeek-OCR：上下文光学压缩
DeepSeek-OCR 从以 LLM 为中心的视角研究视觉编码器的作用，用「上下文光学压缩」把文本渲染成图像再以极少量视觉 token 编码，支持 Tiny/Small/Base/Large/Gundam 多种分辨率模式，并提供 vLLM 与 Transformers 两套推理路径，PDF 处理在单张 A100-40G 上约 2500 tokens/s。
DualPipe
DualPipe 是 DeepSeek-V3 技术报告中提出的双向流水线并行算法，实现了前向与反向计算-通信阶段的完全重叠并减少流水线气泡；DualPipeV 是其对半切分后的 V 形变体，用一半的设备数达到相同的气泡开销。
Engram
Engram 是 DeepSeek 提出的条件记忆模块，将经典 N-gram 嵌入现代化，用 O(1) 查找为大模型补上原生的知识查找原语，作为 MoE 条件计算之外的互补稀疏性维度。论文形式化了神经计算与静态记忆之间的 U 形缩放定律，Engram-27B 在等参数、等 FLOPs 约束下于知识、推理、代码和数学领域稳定超越 MoE 基线。