如何应对GPU暴增的GenAI时代:AMD跨越英伟达的CUDA软件护城河

生成式AI(GenAI)时代,GPU的重要性不可忽视。英伟达AMD作为GPU市场的两大巨头,正展开激烈的角逐。本文将探讨GenAI时代下GPU的关键作用,以及AMD如何挑战英伟达的CUDA软件护城河。

背景

当我们讨论GenAI时,GPU以及其性能和可访问性几乎成了不可或缺的一部分。英伟达一直是GPU的代名词,在国际GPU市场中占据主导地位。然而,近年来,AMD也在GPU领域崭露头角,逐渐蚕食英伟达的市场份额。但根据2022年GPU市场数据统计,英伟达的PC GPU出货量是AMD的近4.5倍,差距显而易见。

英伟达之所以与生成式AI紧密相关,不仅仅是偶然。他们一直认识到,需要利用工具和应用来扩展市场。因此,英伟达降低了人们获取其硬件的门槛,如提供免费的CUDA工具包和cuDNN优化库等。

此外,英伟达的软件工程师数量比硬件工程师还多,这点常常被人忽视。英伟达在软件方面构建了强大的护城河,虽然CUDA不是开源的,但它免费提供,并受到英伟达的严格控制。这为那些希望通过开发替代硬件来进入HPC和生成式AI市场的公司和用户带来了挑战。

生成式AI的计算资源需求

随着生成式AI模型数量不断增长,许多模型是开源的,需要大量资源来构建。然而,对生成式AI计算资源的需求也在不断增加,尤其是在微调和推理方面。这些任务需要GPU的加速,英伟达一直是主要供应商之一。但随着需求的增加,AMD也看到了机会。

AMD挑战英伟达的关键

对于那些不想使用英伟达硬件的公司,必须确保其GPU和加速器支持CUDA才能运行许多模型和工具。AMD通过HIP(类似于CUDA的转换工具)打破了这一限制,使其GPU成为更具竞争力的选择。

PyTorch的崛起

在生成式AI领域,支持CUDA的应用程序统治着GPU加速的世界。然而,PyTorch作为TensorFlow的强有力替代品,正逐渐改变这一格局。92%的可用模型都是PyTorch独有的,这表明PyTorch在生成式AI领域的影响力不断扩大。此外,PyTorch的底层对CUDA的依赖被有效地隔离,这意味着AMD GPU的用户也能够轻松运行PyTorch。

AMD的硬件竞争力

AMD推出的Instinct MI300A处理器将与英伟达的Grace-Hopper超级芯片展开竞争。MI300A处理器集成了Zen4核心和CDNA 3 GPU架构,为CPU和GPU核心提供了统一的内存访问,这将提高性能和能效。

结语

生成式AI市场的硬件竞争将在性能、可移植性和可用性等多个方面展开。AMD通过支持PyTorch和推出MI300A处理器已经跨越了英伟达的CUDA软件护城河。未来,硬件市场的竞争将会更加激烈,谁能占据上风,尚未可知。

本文由作者 王大神 原创发布于 大神网的AI博客。

转载请注明作者:王大神

原文出处:如何应对GPU暴增的GenAI时代:AMD跨越英伟达的CUDA软件护城河

(0)
打赏 微信扫一扫 微信扫一扫
上一篇 2023年10月10日
下一篇 2023年10月10日

相关推荐