DeepSeek (Paper Review: DeepSeek-R1——强化学习驱动的大语言模型推理能力提升)公司在开源周第三天推出的 DeepGEMM,便是这样一颗重磅 “巨石”。作为一款 FP8 通用矩阵乘法(GEMM)库,它正以惊人的力量重塑人工智能训练和推理的方式,在全球 AI 领域掀起了一阵创新浪潮。
一、崭露头角:DeepGEMM 惊艳登场
2025 年 2 月 26 日,DeepGEMM 正式亮相,瞬间成为 AI 界瞩目的焦点。它的诞生,为 DeepSeek-V3 和 R1 模型的训练与推理提供了强大动力,在 Hopper GPU 上能够实现高达 1350+ FP8 TFLOPS 的运算能力。这一成果在全球 AI 竞赛的大背景下意义非凡,尤其是在中国企业面临美国监管挑战,却依然凭借自身实力和政府支持稳步前进的过程中,DeepGEMM 的出现彰显了中国 AI 企业的创新活力与竞争力。
在 AI 模型不断追求更大规模、更高性能的今天,矩阵乘法运算的优化至关重要。GEMM 作为深度学习计算的核心操作,其效率直接影响模型的训练速度和推理效果。而 DeepGEMM 的设计独具匠心,它不仅适用于密集型矩阵乘法,还能完美适配混合专家(MoE)架构下的 GEMM 运算。这一特性对于扩展 AI 模型规模来说是不可或缺的,因为随着模型复杂度的提升,MoE 架构被广泛应用,以实现更高效的计算和更强大的表达能力。
DeepGEMM 的核心逻辑代码简洁明了,仅有约 300 行,却在大多数矩阵规模下超越了经过专家精心调优的内核。这种简洁而