荣格工业资源APP
了解工业圈,从荣格工业资源APP开始。
德克萨斯州奥斯汀市一栋没有标记的办公楼里,两个小房间里放着一些亚马逊产品员工设计两种类型的微芯片来训练和加速生成人工智能。这些定制芯片Inferentia和Trainium为AWS客户提供了在Nvidia上训练大型语言模型的替代方案,因为GPU的采购变得越来越困难且昂贵。
亚马逊网络服务首席执行官Adam Selipsky在6月份接受CNBC采访时表示:“全世界都希望有更多芯片用于生成人工智能,无论是GPU还是我们正在设计的亚马逊自己的芯片。”“我认为我们比地球上任何其他人都更有能力提供我们的客户共同需要的容量。”
然而,其他公司则采取了更快的行动,投入了更多资金,以从生成式人工智能热潮中获取业务。当OpenAI在11月推出ChatGPT时,微软因托管病毒式聊天机器人以及据报道向OpenAI投资130亿美元而受到广泛关注。该公司很快将生成式人工智能模型添加到自己的产品中,并于二月份将其合并到Bing中。
同月,谷歌推出了自己的大型语言模型Bard,随后向OpenAI竞争对手Anthropic投资了3亿美元。
直到四月份,亚马逊才宣布推出自己的大型语言模型系列(名为Titan),以及一项名为Bedrock的服务,以帮助开发人员使用生成式人工智能增强软件。
“亚马逊不习惯于追逐市场。亚马逊习惯于创造市场。我认为,很长一段时间以来,他们第一次发现自己处于不利地位,并且正在努力追赶,”Gartner副总裁分析师Chirag Dekate说。
Meta近还发布了自己的大模型Llama 2。开源的ChatGPT竞争对手现在可供人们在微软的Azure公共云上进行测试。
芯片是“真正的差异化”
Dekate表示,从长远来看,亚马逊的定制芯片可以使其在生成人工智能领域占据优势。
“我认为真正的差异化在于他们所发挥的技术能力,”他说。“你猜怎么着?微软没有Trainium或Inferentia,”他说。
AWS早在2013年就悄悄开始生产定制芯片,使用一种名为Nitro的专用硬件。它现在是销量最高的AWS芯片。亚马逊告诉CNBC,每台AWS服务器都至少有一片,使用中的服务器总数超过2000万台。
2015年,亚马逊收购了以色列芯片初创公司Annapurna Labs。然后在2018年,亚马逊推出了基于Arm的服务器芯片Graviton,这是AMD和英特尔等巨x86 CPU巨头的竞争对手。
“Arm可能占服务器总销售额的个位数甚至10%,其中很大一部分将来自亚马逊。因此,在CPU方面,他们做得相当好。”伯恩斯坦研究。
同样是在2018年,亚马逊推出了专注于AI的芯片。两年前,谷歌宣布推出首款张量处理器单元(TPU)。微软尚未宣布其正在开发的Athena AI芯片,据报道该芯片与AMD合作。
CNBC参观了亚马逊位于德克萨斯州奥斯汀的芯片实验室,Trainium和Inferentia就是在这里开发和测试的。产品副总裁Matt Wood解释了这两种芯片的用途。
“机器学习分为这两个不同的阶段。因此,你训练机器学习模型,然后对这些经过训练的模型进行推理,”伍德说。“相对于在AWS上训练机器学习模型的任何其他方式,Trainium的性价比提高了约50%。”
继2019年发布Inferentia(目前已是第二代)之后,Trainium于2021年首次上市。
Inferentia允许客户“提供非常非常低成本、高吞吐量、低延迟的机器学习推理,这是当您在生成人工智能模型中输入提示时的所有预测,所有这些都将被处理到给你回应,”伍德说。
然而,就目前而言,在训练模型方面,Nvidia的GPU仍然是王者。7月,AWS推出了由Nvidia H100支持的新型AI加速硬件。
Rasgon表示:“Nvidia芯片拥有一个庞大的软件生态系统,在过去15年里,围绕它们建立起来的软件生态系统是其他公司所没有的。”“目前人工智能的最大赢家是英伟达。”
利用云优势
然而,AWS的云主导地位是亚马逊的一大差异化因素。
“亚马逊不需要赢得头条新闻。亚马逊已经拥有非常强大的云安装基础。他们所需要做的就是弄清楚如何让现有客户能够利用生成式人工智能扩展到价值创造活动,”德凯特说。
当在亚马逊、谷歌和微软之间选择生成式人工智能时,数以百万计的AWS客户可能会被亚马逊吸引,因为他们已经熟悉亚马逊,运行其他应用程序并在那里存储数据。
“这是一个速度问题。这些公司能够以多快的速度开发这些生成式AI应用程序,这取决于首先从AWS中拥有的数据开始,并使用我们提供的计算和机器学习工具,”AWS技术副总裁Mai-Lan Tomsen Bukovec解释道。
根据科技行业研究机构Gartner的数据,AWS是全球最大的云计算提供商,到2022年将占据40%的市场份额。尽管营业收入连续三个季度同比下降,但AWS第二季度仍占亚马逊整体77亿美元营业利润的70%。AWS的运营利润率历来远高于谷歌云。
AWS还拥有不断增长的专注于生成式AI的开发人员工具组合。
“让我们把时间倒回到ChatGPT之前。这并不像那件事发生之后,我们突然匆忙制定了一个计划,因为你不可能在那么快的时间内设计出芯片,更不用说你无法在大约2到3个月的时间。”AWS数据库、分析和机器学习副总裁Swami Sivasubramanian说道。
Bedrock使AWS客户能够访问由Anthropic、Stability AI、AI21 Labs和亚马逊自己的Titan制作的大型语言模型。
“我们不相信一种模型会统治世界,我们希望我们的客户能够拥有来自多个提供商的最先进的模型,因为他们会为正确的工作选择正确的工具,”西瓦苏布拉马尼安说道。