Nvidia #

例如： NVIDIA GeForce RTX 3060 Ti

• NVIDIA: 即英伟达，品牌名
• GeForce: 是显卡系列名称
  • Tesla: 专业级显卡,
    • Data Center
    • 数值计算
    • 深度学习、人工智能和高性能计算
  • Quadro: 专业级显卡
    • NVIDIA RTX
    • 图形计算
    • 专业可视化设计和创作
    • 2018 年 RTX 4000 出来后逐渐放弃了 Quadro，2020 年的 RTX A6000 标志着正式放弃 Quadro
  • GeForce: 普通消费级显卡
    • 图形计算
    • 游戏娱乐领域
• RTX: 代表“高端”，一般是带光影追踪功能，只出现在 20 系显卡及以上
  • RTX 是 NVIDIA 较新的 GPU 系列，首次引入了实时光线追踪技术（Ray Tracing）
  • GTX 是系列中的高端显卡
    • 这是 NVIDIA 的图形处理单元（GPU）中较早的一个系列
    • GTX 可以视为 Giga Texel Shader eXtreme 的非正式缩写，尽管这并不是 NVIDIA 官方的解释，主要强调其在图形处理方面的高性能
    • GTX 系列更多的是针对传统的高性能图形处理，而 RTX 系列则是在此基础上加入了对最新渲染技术（如光线追踪）的支持，以及针对 AI 计算的优化。
  • GTS 是系列中的中端显卡
  • GT 是系列中的入门级显卡
• 30: 代表的是第几代
  • 20
  • 30
  • 40
• 6: 是显卡性能档次的定位
  • 89 是高端
  • 567 是中端
  • 1234 是低端
• 0: 不用管这位数字，一般都是 0
• Ti
  • Ti 增强
  • Super 小增强
  • SE 阉割
  • M 等于移动端如 MX, Max-Q

• AD102 (76.3B): 4090

• AD103 (45.9B): 4080

• AD104 (35.8B): 4070Ti

• GA102 芯片，对应 3090ti, 3090, 3080ti, 3080

• GA104 芯片，对应 3070ti, 3070, 3060ti

• GA106 芯片，对应 3060, 3050ti

• GA107 芯片，对应 3050

Quadro vs Geforce #

Quadro 和 Geforce 基本上只有如下 3 个主要区别了：

1. 显存。
   • Geforce 限一个尴尬的 11G 就是为了让你做大工程的时候爆显存，逼着刚需用户买专业卡。
   • 另外专业卡用 ECC 显存，主打一个遇到错误能检查和恢复的能力，非 ECC 显存此时只要不是严重错误可能直接忽略了，错误严重了就挂了。但由于现代内存可靠性足够好，关于 ecc 的作用其实很玄学，我就问一点 —— 主内存怎么办，工作条件更复杂的主内存都不支持 ecc，你若不放心显存，就放心内存了？若关注 ecc，请你别光盯着显卡，主板也换工作站或服务器板，也用 ecc 内存。服务器上专业卡是企业合理的选择，没啥说的，我吐槽的是 desktop。
2. 驱动。
   • 会通过驱动的识别，仅在专业卡上 enable 一些功能，比如 nvenc 编码并发度，比如针对一些老旧工业软件的 workaround 等，这种是纯软件的。
   • Titan 和 3090 被称为半专业卡，显存高于一般的 Geforce，但是也会在驱动上限制。
   • AMD 由于市场弱势，对游戏卡的软件限制要少很多。
3. 频率、散热和外形。
   • 非公高端游戏卡往往做成 3slot，散热堆料丧病，频率灰烬。
   • 专业卡为了多卡好插甚至上机架，至多双 slot。频率也会压得低点，更有利于长稳运行。
   • 大家可能知道现在很多矿老板买来游戏卡也是降频挖矿，一样的道理，还省电，单位千瓦时产出更高。

产品 #

据统计 NVIDIA 当前在售的 AI 加速卡至少有 9 款型号，其中高性能的有 4 款，分别是 V100, A800, A100 及 H100

• V100 加速卡至少 1 万美元，按当前的汇率，约合 6.9 万元人民币；
• A800 售价 1.2 万美元，约合人民币 8.7 万元，市场一度炒高到 10 万元人民币；
  • 服务器现货更是从 120 万涨到了 140 万元左右
• A100 售价在 1.5 万美元，约合人民币 10.8 万元；
• H100 加速卡是 NVIDIA 当前最强的，售价 3.65 万美元，约合 26.4 万元人民币

nvml: NVIDIA Management Library #

A C-based API for monitoring and managing various states of the NVIDIA GPU devices. It provides a direct access to the queries and commands exposed via nvidia-smi. The runtime version of NVML ships with the NVIDIA display driver, and the SDK provides the appropriate header, stub libraries and sample applications. Each new version of NVML is backwards compatible and is intended to be a platform for building 3rd party applications.