如何应对GPU暴增的GenAI时代：AMD跨越英伟达的CUDA软件护城河

在生成式AI（GenAI）时代，GPU的重要性不可忽视。英伟达和AMD作为GPU市场的两大巨头，正展开激烈的角逐。本文将探讨GenAI时代下GPU的关键作用，以及AMD如何挑战英伟达的CUDA软件护城河。

背景

当我们讨论GenAI时，GPU以及其性能和可访问性几乎成了不可或缺的一部分。英伟达一直是GPU的代名词，在国际GPU市场中占据主导地位。然而，近年来，AMD也在GPU领域崭露头角，逐渐蚕食英伟达的市场份额。但根据2022年GPU市场数据统计，英伟达的PC GPU出货量是AMD的近4.5倍，差距显而易见。

英伟达之所以与生成式AI紧密相关，不仅仅是偶然。他们一直认识到，需要利用工具和应用来扩展市场。因此，英伟达降低了人们获取其硬件的门槛，如提供免费的CUDA工具包和cuDNN优化库等。

此外，英伟达的软件工程师数量比硬件工程师还多，这点常常被人忽视。英伟达在软件方面构建了强大的护城河，虽然CUDA不是开源的，但它免费提供，并受到英伟达的严格控制。这为那些希望通过开发替代硬件来进入HPC和生成式AI市场的公司和用户带来了挑战。

生成式AI的计算资源需求

随着生成式AI模型数量不断增长，许多模型是开源的，需要大量资源来构建。然而，对生成式AI计算资源的需求也在不断增加，尤其是在微调和推理方面。这些任务需要GPU的加速，英伟达一直是主要供应商之一。但随着需求的增加，AMD也看到了机会。

AMD挑战英伟达的关键

对于那些不想使用英伟达硬件的公司，必须确保其GPU和加速器支持CUDA才能运行许多模型和工具。AMD通过HIP（类似于CUDA的转换工具）打破了这一限制，使其GPU成为更具竞争力的选择。

PyTorch的崛起

在生成式AI领域，支持CUDA的应用程序统治着GPU加速的世界。然而，PyTorch作为TensorFlow的强有力替代品，正逐渐改变这一格局。92%的可用模型都是PyTorch独有的，这表明PyTorch在生成式AI领域的影响力不断扩大。此外，PyTorch的底层对CUDA的依赖被有效地隔离，这意味着AMD GPU的用户也能够轻松运行PyTorch。

AMD的硬件竞争力

AMD推出的Instinct MI300A处理器将与英伟达的Grace-Hopper超级芯片展开竞争。MI300A处理器集成了Zen4核心和CDNA 3 GPU架构，为CPU和GPU核心提供了统一的内存访问，这将提高性能和能效。

结语

生成式AI市场的硬件竞争将在性能、可移植性和可用性等多个方面展开。AMD通过支持PyTorch和推出MI300A处理器已经跨越了英伟达的CUDA软件护城河。未来，硬件市场的竞争将会更加激烈，谁能占据上风，尚未可知。

未经允许不得转载：大神网 » 如何应对GPU暴增的GenAI时代：AMD跨越英伟达的CUDA软件护城河