根据Omdia的数据中心服务器跟踪报告，2024年第三季度的总收入同比下降 7%，环比下降 1%，至 255 亿美元。 

通用服务器的出货量显着放缓，顶级原始设备制造商感受到了宏观经济逆风和投资重点变化的压力。需求疲软主要体现在企业和通信服务提供商领域。服务器的使用寿命达到了历史最高水平，现在一般企业都使用使用了七年的服务器并延迟更新。

为 AI 配置的服务器部署正在增长，符合 Omdia 的预测。NVIDIA 2024 年第三季度数据中心收入为 145 亿美元（同比增长近四倍），与 Omdia 的预期一致。这向我们表明，正如预期的那样，NVIDIA 在 2024 年第三季度出货了近 50 万颗 H100 和 A100 GPU。我们预计 这一数字将在 2024 年第四季度突破 50 万大关。 

在云服务提供商细分市场中，高度配置的人工智能服务器的部署正在抵消通用服务器更新的延迟。但在企业和通信服务提供商细分市场中，情况并非如此，因为服务器 OEM 一直在努力从 NVIDIA 获得足够的 GPU 分配。服务器 OEM 表示，配置 NVIDIA H100 GPU 的服务器的交货时间为 36-52 周。

高成本人工智能服务器渗透率的不断增长，通用服务器的更新至少要推迟到 2024 年，23 年第三季度服务器出货量同比下降 26%。我们现在预计 2024 年全年服务器出货量为 1140 万台，比 2022 年下降 19%。 

在 2024 年更新周期中，我们预计将发生重大服务器整合，多台已安装的服务器将被一台新服务器取代。这是通过更高核心数的 CPU 和以应用程序优化为中心的新服务器架构来实现的。 

本月，我们更新了长期服务器预测，以反映 2024 年的势头以及对高度配置服务器的持续需求。我们现在预计 2027 年服务器市场价值将达到 1956 亿美元。 

在这一预测中，由于向超异构计算（即具有许多协处理器的应用程序优化服务器配置）的发展，服务器处理器和协处理器的份额正在增加。示例包括： 

运行人工智能训练和推理的服务器

大型语言模型训练最流行的服务器配置是 NVIDIA DGX 服务器，配置有 8 个 H100/A100 GPU

Amazon的AI推理服务器配置了 16 个定制协处理器（称为 Inferentia 2）

具有许多定制协处理器的视频转码服务器

Google 的视频转码服务器有 20 个定制协处理器（称为 VCU）

meta的视频处理服务器有 12 个定制协处理器（称为 meta Scalable Video Processor）

Omdia预计，这种趋势只会某些应用程序的需求成熟到能够以经济高效的方式构建优化的定制处理器的规模而增长。媒体和人工智能是超异构计算的早期受益者，但我们预计数据库和 Web 服务等其他工作负载也会看到类似的优化推动。