AI芯片短缺 Nvidia GPU的替代品从哪来？

图片来源  /  Unsplash

 

来源 /   EETimes;荣格电子芯片翻译

作者  /  Daniel Keller

 

 

2024年1月，领先的私募股权公司黑石宣布将打造价值250亿美元的人工智能数据帝国。几个月后，OpenAI和微软也提出了建造价值1000亿美元的人工智能超级计算机“Stargate”的计划，这将使该公司成为人工智能革命的前沿。

 

当然，这并不令人意外。随着人工智能行业在过去几年中迅猛发展，全球各行业巨头都在争先恐后地抢占前排座位。专家预测，到2030年，全球人工智能市场规模将达到8.267万亿美元，年均增长率为28.46%。

 

唯一的问题是：GPU。

 

冯·诺伊曼架构是大多数通用计算机运行的基础设计模型（由CPU、内存、I/O设备和系统总线组成），虽然它提供了简单性和跨系统兼容性，但其本身存在局限性。该架构的单一系统总线限制了数据在内存和CPU之间传输的速度，因此不适合用于AI和机器学习等目的。

 

这就是GPU（图形处理器）发挥作用的地方。通过采用并行处理技术，GPU通过其多核实现了更好的性能和独立的指令执行。然而，随着AI技术的兴起，对GPU的需求激增，给供应链带来了压力，并成为许多研究人员和初创企业的严重瓶颈。尤其是因为全球的GPU供应仅来自一家主要生产商：英伟达。

 

虽然像AWS、Google Cloud Platform等超大规模厂商可以从英伟达获取A100和H100等产品，但对于企业、研究人员和初创企业来说，还有哪些其他可行的替代方案可以让他们搭上AI列车，而不是无限期地被困在 Nvidia 候补名单上？

 

现场可编程门阵列（FPGA）

FPGA是一种可重构的集成电路，可以根据特定任务和应用需求进行配置。它们具有灵活性，可以适应不同的需求，成本效益高。由于FPGA在并行处理方面效率较高，因此非常适合AI/机器学习应用，在实际应用中具有显著的低延迟特性。

 

FPGA的一个有趣应用可以在特斯拉D1 Dojo芯片中看到，该公司于2021年发布该芯片，用于训练自动驾驶汽车的计算机视觉模型。然而，FPGA的一些缺点包括需要高水平的工程专业知识来设计硬件，这可能导致初始购买成本较高。

 

AMD GPU

AMD GPU提供了一种经济高效的AI解决方案，其性能与Nvidia GPU相当，但价格更低。AMD的MI300 GPU是专为AI工作负载设计的，具有高性能和低功耗的特点。

 

此外，AMD还提供了一个名为ROCm的开源软件堆栈，可以简化AI工作负载的部署和管理2023年，Meta、Oracle和微软等公司表示对AMD GPU感兴趣，将其作为一种更经济高效的解决方案，以避免与主导市场的英伟达可能存在的供应商锁定问题。

 

例如，AMD的Instinct MI300系列被认为是科学计算和AI应用的可行替代方案。其Graphics Core Next (GCN)架构强调模块化和对开放标准的支持，以及更实惠的价格点，使其成为Nvidia GPU的有前途的替代品。

 

张量处理单元（TPUs）

TPUs是专门为执行机器学习任务而设计的应用特定集成电路（ASICs）。TPUs是由谷歌开发的，它依赖于特定领域的架构来运行神经网络，如张量操作。TPUs还具有能源效率和优化性能的优势，使其成为可负担的替代方案，用于扩展和管理成本。

 

然而，需要注意的是，TPU生态系统仍在发展中，当前的可用性仅限于谷歌云平台。

 

去中心化市场

去中心化市场也在用自己的方式试图缓解受限的GPU供应链。通过利用遗留数据中心、学术机构甚至个人的闲置GPU资源，这些市场为研究人员、初创企业和其他机构提供了足够的GPU资源来运行他们的项目。其中包括Render Network、FluxEdge、Bittensor等。

 

其中许多市场提供消费级GPU，足以满足小型到中型AI/ML公司的需求，从而减少了对高端专业GPU的压力。一些市场还为希望使用工业级GPU的客户提供了其他选择。

 

CPU

由于其有限的带宽和冯·诺伊曼瓶颈，CPU通常被认为不适合AI应用。然而，人们一直在努力寻找在CPU上运行更高效的AI算法的方法。这些方法包括将特定的工作负载分配给CPU，比如简单的NLP模型和执行复杂统计计算的算法。

 

虽然这可能不是一个适合所有情况的解决方案，但对于难以并行运行的算法（如循环神经网络或用于训练和推理的推荐系统）来说，它是完美的。

 

总结

用于人工智能的GPU的短缺短期内可能不会消失，但还是有一些好消息。人工智能芯片技术的持续创新证明了一个令人兴奋的未来，它将确保有一天GPU短缺问题逐渐消失。人工智能领域还有许多潜力有待挖掘，我们可能正站在人类所知的最重大技术革命的边缘。

 

原文链接：

https://www.eetimes.com/ai-chip-deficit-alternatives-to-nvidia-gpus/

Daniel Keller is CEO of InFlux Technologies.

---

*声明：本文系原作者创作，荣格电子芯片翻译。文章内容系其个人观点，我方转载仅为分享与讨论，不代表我方赞成或认同，如有异议，请联系后台。