|
 
- UID
- 2
- 积分
- 2766858
- 威望
- 1333436 布
- 龙e币
- 1433422 刀
- 注册时间
- 2009-12-3
- 最后登录
- 2024-7-1
|
AI芯片市场需求转变将如何影响英伟达的未来？
2024年2月26日09:55 CST 更新
由英伟达(Nvidia)主导的人工智能(AI)芯片大战已经转向新的战场——一个规模更大、竞争更激烈的战场。
通过提供训练AI模型这一极其复杂的工作所必需的芯片，英伟达将自身打造成了一家市值达2万亿美元的公司。随着该行业的快速发展，更大的机遇将是销售让这些模型在训练后运行的芯片，为生成式AI工具迅速扩大的公司和个人使用者提供大量文本和图像。
眼下，这种转变正在为英伟达的火爆销售锦上添花。该公司首席财务官Colette Kress上周表示，在去年收入超过470亿美元的英伟达数据中心业务中，逾40%是用于部署AI系统，而非训练AI模型。这一比例是首个显示转变正在进行的重要迹象。
Kress的评论缓解了一些人关于转向部署AI系统的芯片会威胁到英伟达地位的担忧，这些担忧源于与那些让英伟达成为AI热潮领头羊的芯片相比，AI系统进行的所谓 “推理”工作可以用性能较低、成本更低的芯片来完成。
“有一种看法认为，英伟达在推理功能领域的份额将低于训练功能领域，”Melius Research的分析师Ben Reitzes在客户报告中说。“事实情况有助于揭示英伟达从即将到来的推理爆炸中获益的能力。”
英伟达的许多竞争对手都认为，随着推理功能芯片变得越来越重要，它们在AI市场上会获得更好的发展机会。
英特尔生产可用于数据中心的中央处理器(CPU)。英特尔认为，随着客户着眼于降低AI模型的运营成本，英特尔的芯片将越来越具有吸引力。英特尔擅长制造的芯片类型已经广泛应用于推理功能，而英伟达的尖端且更昂贵的H100 AI芯片在执行推理工作方面则并未发挥至关重要的作用。
英特尔首席执行官帕特·基辛格(Pat Gelsinger)在去年12月的一次采访中表示：“推理芯片的经济效益在于，不需要去构建4万美元的H100环境，因为那太耗电，并且需要搭配新的管理和安全模型以及新的IT基础设施。”他说，“如果我能在标准的（英特尔芯片）上运行那些模型，那就简单好办了。”
美国银行(Bank of America)的分析师Vivek Arya说，从英伟达上周三公布的财报来看，透露出的最重要信息可能就是行业向推理芯片的转变。英伟达的财季业绩超出了华尔街的预期，推动该股在上周攀升8.5%，令公司估值达到约2万亿美元。
Arya说，对AI模型训练的投资激增后，随着重点转向从AI模型中创收，芯片推理功能的重要性将上升。与英伟达主导的AI训练功能相比，推理芯片可能更具竞争力。
推理相关业务的增长速度可能比早先预期的要快。今年年初，瑞银(UBS)分析师估计，90%的芯片需求来自训练，到明年推理将仅占市场的20%。这些分析师在一份报告中说，英伟达约40%的数据中心收入来自推理，这个数字超出了他们的预期。
事实上，英伟达上周三的财报显示，该公司在AI芯片市场的份额尚未受到真正挑战。目前英伟达的AI芯片市场份额超过80%。在可预见的未来，英伟达用于训练AI系统的芯片预计仍将保持较高需求。
在训练AI系统的过程中，公司通过其模型运行海量数据，教它们预测语言，从而生成类似于人类的表达。这项工作对算力要求很高，而英伟达的图形处理器(GPU)非常适合这项工作。
推理工作则是要求这些模型处理新的信息并作出反应，相对轻松一些。
除了英特尔和Advanced Micro Devices等英伟达的老牌竞争对手外，一些AI芯片初创公司也可能会随着推理功能日渐重要而崭露头角。
初创公司SambaNova将AI芯片和软件结合在一起，可以进行推理和训练。“我们看到我们的推理用例正在爆炸式增长，”该公司首席执行官SambaNova表示，“人们开始意识到，80%以上的成本将用于推理，我需要寻找替代解决方案。”
由前谷歌AI芯片工程师Jonathan Ross创立的初创公司Groq近几个月来的吸引力激增，此前该公司主页上的一个演示展示了其推理芯片如何快速地从一个大语言模型中生成响应。Ross说，该公司现有计划是今年部署4.2万块自家芯片，明年将部署100万块，但公司正在考虑将今年的部署数量增加到22万块，明年增加到150万块。
Ross说，推动该公司考虑改变计划的一个因素是，一些最先进的AI系统正在进行调整，以便在不重新训练的情况下做出更好的响应，这会将更多的计算工作推向推理。Ross说，与英伟达或其他芯片公司的产品相比，Groq的专业芯片运行速度快得多、成本也低得多。
“对于推理，你能部署什么取决于成本，”Ross表示。“有很多模型可以在谷歌接受有效训练，但其中大约80%都没有得到部署，原因是投入生产的成本太高。”
包括Meta、微软(Microsoft)、Alphabet旗下谷歌(Google)和亚马逊公司(Amazon.com)在内的科技巨头一直在努力开发内部推理芯片，因为它们意识到即将到来的转变以及能够以更低成本进行推理的好处。
以亚马逊为例，该公司云计算部门数据和机器学习副总裁Swami Sivasubramanian去年表示，亚马逊从2018年起就开始研发推理芯片，推理占其Alexa智能助手运算成本的40%。
英伟达则希望在向推理过渡的过程中保持领先地位。去年，英伟达即将推出的一款芯片在一次重要的AI推理基准测试中取得了行业领先的成绩，延续了该公司多年来在该竞争中的优势地位。
去年12月，AMD发布了新的AI芯片，称其推理性能优于英伟达的芯片，随后英伟达在一篇博文中回击了这一说法。英伟达称，AMD提到了其芯片有更好的推理性能，但是AMD的测试没有使用优化软件，而如果在使用优化软件的同等测试条件下，英伟达芯片的推理速度将会是AMD的两倍。 |
论坛官方微信、群（期货热点、量化探讨、开户与绑定实盘）
 
|
:
| 
:
| 
:期货程序化 | 
:期货程序化研究 | 
:期货量化学习 | 
:期货量化 | 
发表于 2024-2-27 08:59
| 
|
TB/MC开户优惠政策:
：
：
自2023.03.23日起，新启用程序化学习量化策略网（量化超市），单独策略也可以购买了，解决一部分网友不想购买一年会员而只是想要某一个或几个策略的问题，具体参考：
2024年最全的Python编程与程序化（量化）教程、视频、源码、课件、资源汇总贴：/thread-152864-1-1.html
2024年最全的MultiCharts程序化（量化）教程、视频、源码、课件、资源汇总贴：/thread-88129-1-1.html
2024年期货开户限时优惠：政策一：品牌期货公司开户，特惠佣金费率；政策二：短线炒单及大资金享高比率返佣；政策三：可申请交易所保证金比率（具体咨询客服）；政策四：享论坛VIP会员资格免回复看贴、千部电子书一键下载。
