02. AI 硬件与芯片

本章定位：

🧭 阅读地图

• 前置章节：01. AI Infra 量化分析（可选，先算账再认硬件更顺）
• 本章定位：第一部 L1 硬件基座的开篇——芯片、服务器拓扑、固件与驱动生命周期，是后面集群/网络/存储章节的物理前提
• 推荐顺序：先看芯片全景，再按服务器拓扑→固件 BIOS→驱动生命周期→液冷
• 下一章：03. 集群架构设计——从单机到集群，用基准测试检验硬件

文章目录

AI 加速卡全景：架构、代际与选型

GPU 加速卡的三大件（Tensor Core 算力 / 显存带宽 / 互联带宽）演进逻辑，A100→H100→H200→B200 代际对比，训练/推理/科学计算三大场景选型矩阵。

阅读文章 →

万卡集群硬件选型与验收清单

从算力、显存、互联、存储、功耗五个维度做万卡集群选型决策；HPL 算力、Stream 带宽、互联实测、72 小时稳定性四步验收法；附可直接照做的检查清单。

阅读文章 →

GPU 驱动与生命周期管理：版本策略与升级排障

CUDA 驱动版本矩阵、生产集群驱动升级流程（灰度/回滚）、Fabric Manager 与 NVLink 状态检查、Xid/ECC 错误监控与硬件生命周期管理。

阅读文章 →

GPU 服务器硬件拓扑：PCIe、NVLink 与 NVSwitch 互联解析

以可复现命令逐段拆解 GPU 服务器硬件互联：PCIe 拓扑与带宽账本、NVLink/NVSwitch 全互联、lspci 实测拓扑、多卡训练的性能约束与选型启示。

阅读文章 →

液冷机房设计：从风冷极限到冷板液冷

AI 机柜功率密度与风冷极限、冷板式/浸没式液冷选型、CDU/快接头/冷却液关键组件、漏液检测与运维演练，附设计参数速查。

阅读文章 →

GPU 服务器固件与 BIOS 调优：交付前的最后一道工序

固件基线固化、BIOS 关键项与交付自检。

阅读文章 →

GPU 的 AI 重造：从 CUDA Core 到 Tensor Core 与 NVLink

Tensor Core 代际演进让理论算力涨 10 倍、NVLink/NVSwitch 把多卡连成一个 GPU，衔接算力账。

阅读文章 →