英伟达（NVIDIA）系列显卡（GPU）技术指标对比排行

英伟达GPU显卡参数对比

每个CUDA核心只处理简单的数学运算（如浮点加减乘除），但通过集成数千个这样的核心，GPU能同时处理海量数据，速度远超CPU。显存位宽是GPU和显存之间的“数据通道宽度”，单位是bit（位），比如128bit、256bit、384bit等。位宽越大，GPU能同时读取的数据越多。其不断迭代的芯片架构与持续攀升的算力天花板，恰如一场自我突破的技术突围 —— 每一次架构升级，都是对行业算力边界的重新定义。在我们谈论算力的时候，常常会提到的半精度 （FP16）、单精度（FP32）、双精度（FP64）又是什么？

RTX 3090与3090 Ti作为RTX 30系列的旗舰产品，3090Ti拥有10752流处理，3090拥有10496个流处理，它们以极致的性能和巨大的显存容量（通常为24GB GDDR6X）成为了追求极致图形处理能力的用户的首选。RTX 3060 Ti和RTX 3060是RTX 30系列中的入门级产品，它们以适中的价格和良好的性能赢得了市场的广泛认可。RTX显卡通常配备了高速、大容量的GDDR6或更高版本的显存，这些显存能够提供更高的带宽和更低的延迟，从而支持更高分辨率和更高帧率的游戏画面。

Quadro类型：Quadro系列显卡一般用于特定行业，比如设计、建筑等，图像处理专业显卡，比如CAD、Maya等软件。GeForce类型：这个系列显卡官方定位是消费级，常用来打游戏。但是它在深度学习上的表现也非常不错，很多人用来做推理、训练，单张卡的性能跟深度学习专业卡Tesla系列比起来其实差不太多，但是性价比却高很多。Tesla类型：Tesla系列显卡定位并行计算，一般用于数据中心，具体点，比如用于深度学习，做训练、推理等。

高容量显存：H200是H100的升级款产品，主要升级了GPU显存。采用了HBM3e显存技术，显存容量和带宽都有所提升，为AI和高性能计算提供了更强的支持。先进封装工艺：英伟达Blackwell系列是第一个使用台积电CoWoS-L封装工艺的芯片，GB200作为该系列的一员，具有出色的性能和功耗表现。高容量显存：RTX 4090配备了GDDR6X显存，提供了快速的数据传输速度，满足高端游戏和图形处理的需求。高性能存储：A100配备了高容量的HBM2e显存和高速的数据传输接口，提供了强大的存储和数据处理能力。

英伟达GPU架构演进史（1999-2024） 本文梳理了英伟达从1999年Celsius架构到2024年Blackwell架构的20多代技术发展历程。1999年GeForce256首次提出GPU概念，开启图形处理器独立计算时代；2006年Tesla架构引入统一渲染和CUDA核心，开创GPU通用计算新纪元；2017年Volta架构加入Tensor Core，推动AI计算革命；2020年Ampere架构实现数据中心性能飞跃；2024年Blackwell架构专为生成式AI优化，支持万亿参数模型。每一代架构都在制程

本文将对H20、H100、H200、H800、A100、A800、L20、L40、RTX 3090、RTX 4090等热门型号进行全面对比分析

H200 的显存从 H100 的 80GB 提升到了 141GB，更大的显存容量可以容纳更大规模的模型和数据，减少数据在内存和硬盘之间的交换次数，从而提高推理速度。当然也并不是所有的场景都适合NVLink的，PCIe的GPU的优势主要体现在其出色的灵活性和实用性，对于工作负载小、追求GPU数量平活配置的场景，PCIe版的GPU无疑是个更好的选择，而对于GPU间互联带宽有着极高需求的大规模AI模型的训练任务，SXM版的GPU凭借其无可匹敌的NVLink宽带和极致的性能则成为首要选择。然而，竞争也将促进合作。

本文主要整理了NVIDIA全系GPU&显卡规格参数及特性对比，应用场景等

Ampere 架构的 GPU 采用了多个[流多处理器]（SM）和更大的总线宽度，提供了更多的 CUDA Core 和更高的频率。而受到影响较大的还是 NVlink 上的削减，但是因为架构上的升级，虽然比不上同为 Hopper 架构的 H100，但是比 ampere 架构的 A800 还是要强上不少的。NVIDIA 通常用最小的运算单元表示自己的运算能力，CUDA Core 指的是一个执行基础运算的处理元件，我们所说的 CUDA Core 数量，通常对应的是 FP32 计算单元的数量。

NVIDIA GeForce RTX 系列是 NVIDIA 面向消费级市场的高性能 GPU 产品线，注重提供高性能的图形处理能力和游戏特性。主要......

NVIDIA 作为全球领先的 GPU 生产商，其显卡被广泛应用于游戏、深度学习、科学计算和图形处理等领域。随着 GPU 技术的不断升级，NVIDIA 推出了多个系列的显卡，涵盖了消费级、专业级和企业级市场。本文将对当前市面上流行的 NVIDIA GPU 型号进行排名，并探讨它们在不同应用场景中的表现。

更新于2024.1.11。

列举了NVIDIA29款主流显卡（GPU）的性能参数及价格，供大家在选购时参考。（若有错误，也请指正）

可能会有很多人像我一样，之前对GPU不太了解，有些人可能也不知道为什么要用GPU而不是CPU，又有什么区别？以及GPU的怎么衡量他的性能，有哪些类型的GPU，大模型训练一般常用什么等级的显卡，等等这些基础的问题。