mt logoMyToken
ETH Gas
EN

SemiAnalysis创始人深度解析:AI投资还能撑多久?英伟达护城河还能守住吗?内存荒何时结束?

Favoritecollect
Shareshare

AI基础设施投资仍有增长空间,但融资成本上升、半导体供应链受限与自研芯片竞争加剧,正在共同考验这轮AI热潮的持续性。

在10月23日于美国举行的CASPA第35届年度大会上,SemiAnalysis创始人兼CEO Dylan Patel、Bernstein董事总经理兼高级分析师 Stacy Rasgon,以及Austin Lyons围绕半导体行业前景展开讨论,重点涉及AI基础设施投资、供应链瓶颈与芯片竞争格局。

Patel指出,当前AI算力需求依然旺盛,但基板、内存等关键环节的产能约束,正在限制基础设施扩张。与此同时,融资成本大幅攀升,缺乏长期客户订单的新兴云服务商越来越难以获得资金,AI投资能否持续推进,不仅取决于需求,也取决于项目的融资能力与回报。

对于英伟达,Rasgon认为,其产品性能提升仍能支撑较高售价,但云厂商自研芯片正在改变竞争格局。随着Google TPU、亚马逊Trainium以及OpenAI等企业的自研芯片计划推进,英伟达即使继续增长,也可能面临市场份额和定价能力的双重压力。

内存市场则面临另一重考验:HBM需求旺盛、行业利润率处于高位,但厂商扩产可能在2028年后逐步改变供需关系。未来两年,融资能力、关键零部件供给与自研芯片的竞争,将成为影响AI基础设施扩张速度和产业链利润分配的关键变量。

SemiAnalysis创始人深度解析:AI投资还能撑多久?英伟达护城河还能守住吗?内存荒何时结束?

华尔街见闻总结要点如下:

AI投资仍有增长空间,但融资成本正成为重要约束。 美国10年期国债收益率突破5%,部分新兴云服务商无担保债券收益率接近15%。缺乏长期客户订单的企业融资难度更大,项目建设节奏将越来越取决于融资能力与投资回报。

半导体供应链瓶颈短期难解,基板与内存是关键制约。 基板、HBM、光学互联组件及洁净室产能均面临供应限制。相比之下,电力短缺可通过现场发电等方式部分缓解,半导体供应链扩产则需要更长时间。

内存短缺可能延续至新增产能释放,2028年后供需格局面临转折。 HBM需求旺盛,内存行业毛利率据称已达88%—90%;但如果新增产能在2028年后集中投产,而需求增速放缓,内存价格与利润率可能承压。

英伟达仍有性能优势,但自研芯片正在挑战其定价权。 英伟达持续通过性能提升支撑高售价,但Google TPU、亚马逊Trainium以及OpenAI等企业的自研芯片布局,为大型客户提供了替代选择。即使英伟达收入继续增长,其市场份额和利润率也未必同步提升。

AI基础设施成本持续上升,投资回报将成为下一阶段焦点。 建设1吉瓦算力数据中心的成本已从2024年的约400亿美元升至600亿美元以上。云厂商加速自研芯片以降低单位算力成本,而企业通过云服务购买Token的模式能否持续扩大,将影响基础设施投资的长期回报。

AI基础设施建设的融资门槛正在显著提高。美国10年期国债收益率已突破5%,CoreWeave等新兴云服务商的无担保债券收益率接近15%。Volulta为Anthropic建设集群时发行的债券票面利率为12%,但以面值95%的价格出售,实际收益率约为15%。

Rasgon指出,过去现金流充沛的超大规模云厂商,如Meta和Google,也在AI基础设施建设中大量消耗自由现金流,部分企业未来甚至可能需要通过股权融资支持投资。

Patel进一步指出,非超大规模云厂商承接的建设需求接近全市场的一半,但这类企业通常缺乏足够的资产负债表支撑。若没有超大规模云厂商提供长期采购承诺(offtake agreement),项目就很难获得融资。为此,英伟达已开始通过收入分成等安排支持部分算力集群建设,博通则采用类似分期付款的方式向Anthropic提供芯片。

这意味着,融资能力正成为AI基础设施扩张的重要分水岭。需求旺盛并不保证所有项目都能如期落地;对于资金成本高、依赖外部融资的新兴云服务商而言,长期订单与现金流将直接影响建设速度。

在供应链瓶颈方面,Patel将基板列为当前最关键的约束之一。日本相关供应商扩产相对谨慎,限制了加速芯片、CPU等产品的产能提升。

内存则是另一大瓶颈。Rasgon指出,生产同等容量的HBM所需晶圆数量约为DDR5的3—4倍,AI芯片需求增长因此加剧了内存产能竞争。与此同时,光学互联所需的激光器、光纤连接等组件也面临短缺,即使CPO计划在2028年前后加速量产,相关供给仍可能难以满足需求。

晶圆制造设备市场同样受到洁净室产能限制。Rasgon认为,2026年全球晶圆制造设备(WFE)市场规模超过2000亿美元的预测过于乐观。通过提高现有工厂利用率,市场规模或可从年初预期的约1200亿美元提升至约1550亿美元,但新建洁净室要到2027年才陆续投用,更多产能预计在2028—2029年释放。

相比之下,电力短缺有更多应对手段。Patel预计,2027年全球在建数据中心规模接近50吉瓦,其中美国约35吉瓦。现场燃气轮机、往复式发动机和燃料电池等方案,可以在一定程度上缓解电力约束。

因此,AI建设面临的瓶颈并非单纯缺电或缺地,而是多种关键材料和制造环节难以同步扩产。短期内,供应链约束与融资成本可能共同影响项目交付速度。

当前内存行业的高利润,反映了AI需求与有限产能之间的失衡。Rasgon称,内存行业毛利率已达到88%—90%,但市场并未因此给予相关股票极高估值,原因之一正是投资者担心2028年以后新增供给集中释放,导致价格回落。

HBM的特殊之处在于,其制造需要消耗更多晶圆资源。随着AI加速器需求增长,HBM扩产不仅要增加自身产能,也会影响其他DRAM产品的供给。短期内,产能分配与扩产速度难以迅速跟上需求;但随着新产能陆续投产,供需关系也可能发生逆转。

内存短缺何时结束,关键不在于某个固定日期,而在于新增产能何时开始超过需求增量。 如果扩产集中在2028年以后,而AI需求增速同时放缓,当前的高价格和高利润率就可能难以维持。

投资者需要关注HBM与DRAM扩产进度、先进封装和晶圆制造能力,以及云厂商资本开支的变化。在供给明显增加之前,内存仍可能制约AI算力交付;但在更长周期内,扩产也可能成为压低价格、侵蚀利润的因素。

英伟达的核心优势,在于持续提升芯片性能,并通过软件生态和开发工具增强客户黏性。但随着云厂商越来越重视算力成本,其高售价也为自研芯片提供了发展空间。

Rasgon指出,英伟达相对于费城半导体指数的估值已处于历史低位,反映出市场对AI投资持续性及自研芯片竞争的担忧。

从产品迭代看,英伟达仍在通过性能提升支撑定价。从Ampere到Hopper,产品平均售价约翻倍,性能提升约10倍;从Hopper到Blackwell,售价上涨约50%,性能提升幅度据称达到3—30倍。只要性能提升持续超过价格涨幅,客户就有动力为新一代产品支付更高价格。

但竞争对手正在加快追赶。Patel的研究显示,英伟达在相关协处理器晶圆及HBM需求中的份额占比已开始下滑。与此同时,Google TPU已向外部客户销售,亚马逊Trainium持续完善对PyTorch生态的支持,OpenAI和Anthropic也在推进自研芯片计划。

这些布局未必会立即取代英伟达,却能为大型客户提供替代方案,增强其议价能力。对于拥有庞大算力需求的云厂商而言,自研芯片的吸引力不仅在于降低采购成本,也在于减少对单一供应商的依赖。

因此,英伟达面临的关键考验不是能否继续增长,而是能否持续以性能优势证明其价格溢价合理。即使AI市场整体扩大,英伟达的收入、市场份额与利润率也未必同步增长。

在企业应用端,三位分析师认为,大多数企业不会自行采购大量硬件运行私有模型,而是通过云服务购买Token,即调用云端AI推理能力,再与自有数据和业务流程结合。这与过去企业IT从自建基础设施转向云计算的趋势相似。

目前,AI辅助编程是较成熟的企业级应用之一。Rasgon分享称,借助Claude,原本需要一周完成的财务模型,仅用约1小时20分钟便完成搭建,涉及10年历史数据、多次业务重组及管理层电话会议内容的逻辑推断。

这类应用的价值首先体现为节省时间、减少重复劳动,而不一定立即反映在营收中。其投资回报仍需通过实际业务验证,但企业通过云端调用模型,也意味着AI基础设施的需求将越来越取决于推理服务的使用量。

如果企业应用持续扩张,云厂商就有动力继续投资算力;但如果建设成本和融资成本上涨得比收入更快,基础设施投资的回报仍会承压。

以下是全文内容:

主持人 Austin Lyons:

先从更宏观的角度来看,先谈需求,再谈供给。需求方面,AI收入增长非常快,但增速已经开始放缓。目前整个AI行业的收入加起来,仍然只是行业总支出的一小部分,因此市场正在极其仔细地审视每一项收入数据。

供给方面,未来数年的算力产能已经被预订一空,价格也依然坚挺。从半导体分析师的角度,我们应该如何理解这两个信号?产业链上的价值最终又会流向谁?

今天,我们请来了两位半导体行业的重要人士:Dylan Patel是SemiAnalysis的创始人兼CEO,该机构是AI基础设施领域最有影响力的研究机构之一;Stacy Rasgon是Bernstein董事总经理兼高级分析师,在华尔街从事半导体分析超过十年。我是今天的主持人Austin Lyons,现任Chief Strat首席分析师,曾任英特尔首席工程师。

今天,我们将讨论半导体行业的未来,展望2027年和2028年,涵盖融资、GPU、CPU以及晶圆代工等领域。

主持人 Austin Lyons:

最近,资本成本成为市场讨论的焦点。超大规模云厂商正在投入巨额资金,自由现金流已经趋于负值。与此同时,美国10年期国债收益率突破5%,CoreWeave等公司的债券市场收益率也接近15%。

我们是否应该对此感到担忧?随着企业持续加大投资、融资成本不断上升,这会对AI基础设施建设产生多大影响?先请Stacy谈谈。

Stacy Rasgon:

目前确实存在很多限制因素,正在放缓AI基础设施建设的速度,包括电力、供应链、半导体制造设备,现在可能还要加上融资。

从股票表现来看,相关公司的股价虽然仍较此前上涨了不少,但已经明显低于高点。市场正在传递一个信号:投资者担心基础设施建设的速度和可持续性存在很大不确定性,也担心行业增长可能正在接近高峰。融资显然是其中一个重要问题,甚至可能是最重要的问题之一。

你刚才提到,超大规模云厂商曾经是人类历史上现金创造能力最强的企业之一,但如今它们正在大量消耗现金,未来可能需要发行股票融资。Meta最近调整了股权结构,其中一个目的就是为这类融资安排提供空间。Google等公司也进行过融资。

以CoreWeave为例,其债券收益率接近15%,需要注意的是,这并不代表公司目前所有债务的实际融资成本,而是其无担保债券在市场上的交易收益率。但如果公司今天重新进入市场发行无担保债券,融资成本很可能就在这个水平附近。这是一笔相当高的成本。

不过,我认为至少未来一两年,行业大体上仍能维持运转。更重要的是,相关收入必须持续增长,才能逐渐缓解市场对融资的担忧。

以算力租赁市场为例,目前的供给极其紧张,我们听到的普遍说法是,没有人能获得足够的算力。部分企业通过短期合同出租算力,按某些估算,每吉瓦算力对应的收入甚至可能达到500亿美元左右。

因此,并不难想象一种情形:即使建设成本很高,相关收入仍足以覆盖成本,甚至超过成本。但问题在于,这种收入水平能持续多久?最终还是要看需求相对于供给究竟有多强,以及供需缺口能够维持多长时间。

这些问题可能需要Dylan从产业供需的角度作出更深入的判断。不过,融资无疑是当前众多限制因素之一。

还有一点值得注意:限制因素放缓了增长,未必完全是坏事。它可能防止行业扩张过度,避免投资失控。

互联网泡沫时期就曾出现过类似情况。当时铺设了大量暗光纤,即已经铺设但尚未投入使用的光纤,许多基础设施最终被过度建设,至今仍有部分没有得到充分利用。

如今的建设约束,反而可能让供需匹配得更加合理,使行业增长持续更长时间。如果今天完全不受限制地疯狂扩张,未来反而可能面临更严重的崩盘风险。

所以,我不认为所有限制因素都是坏事。当然,市场如何看待这些约束是另一回事,而它们显然已经影响了相关股票的短期走势。

Dylan Patel:

我赞同Stacy的观点。回顾过去几十年的基础设施建设,每次行业扩张时,企业往往都会重复下单,甚至下两倍、三倍的订单,最终建成过多的产能。供应链对于需求的预测能力一直不够好。

现在,融资正在发挥一定的自我调节作用。一两年前,只要一家云服务商愿意支付足够高的利率,通常就能拿到资金;但现在,如果没有信用质量足够高的长期采购承诺(offtake agreement),一些新兴云服务商就无法建设算力集群。

超大规模云厂商当然可以将自由现金流压到接近零,也可以继续举债,而且它们的利润仍在增长,因此建设能力还会提高。但它们不可能无限投入。明年,它们不可能把资本开支提高到超过2万亿美元,甚至2.5万亿美元的水平。资金能力终究会限制支出规模。

再看新兴云服务商(Neocloud)。非超大规模云厂商承接的建设需求接近整个市场的一半。如果它们没有超大规模云厂商的采购承诺,又该如何获得融资?

如今,即使获得Anthropic或OpenAI等客户的采购承诺,市场也可能要求相关债务提供13%—15%的收益率。Volulta就是一个例子:该公司正在为Anthropic建设算力集群,债券票面利率约为12%,但发行价格只有面值的95%,因此实际融资收益率接近15%。

如果一家企业没有超大规模云厂商或大型AI实验室的采购承诺,它又如何建设算力,为中小企业和初创公司提供服务?坦率地说,在缺少这些大型客户支持的情况下,融资会非常困难。

这也是埃隆·马斯克采取的策略之一:先建设大量算力,再通过短期租赁合同,以较高价格将算力出租给初创企业和AI实验室。但总体而言,融资约束确实会抑制行业扩张。

英伟达已经意识到这是一个重大问题。市场上有少数几家大型客户,可以在自身资金允许的范围内尽可能多地购买算力;但市场还有另一半需求,如何满足这些客户?

英伟达因此开始采用一些创新的融资结构。例如,在Sharon AI、Fermis等项目中,英伟达通过分享算力集群收入,为项目融资提供支持。其安排大致是:英伟达以一个保证云服务商基本不赚钱的价格租用集群,如果云服务商以更高价格将算力出租给其他客户,英伟达再分享一部分收入。

类似安排正在增多。Lambda为Anthropic建设算力集群时,也需要与英伟达签订收入分成协议,分成比例约为10%。

这说明,新兴云服务商能否获得足够资本、完成建设,最终甚至扩张到供给过剩的程度,都受到融资条件的制约。

我们还看到,行业融资方式正在从长期贷款、长期债务,转向更灵活的安排。博通向Anthropic提供芯片时,就采用了类似租赁转购买的方式,将付款期限延长至数年。

对于无法像超大规模云厂商那样依靠自身资产负债表融资的企业而言,想获得算力,就需要英伟达、博通或AMD等企业为集群提供一定的融资支持或信用保障。

因此,融资是限制AI基础设施扩张的一项重要因素。超大规模云厂商自身也存在规模庞大的表内和表外承诺。例如,Meta在计算和数据中心方面的承诺据称已达到1.4万亿美元。

这些项目可以通过多种方式获得资金:企业可以借款购买数据中心,也可以向其他企业租赁数据中心或相关设备,而提供基础设施的一方再据此融资。但要让整个行业在此基础上继续大幅扩张,难度正在增加。

资本市场甚至开始对Meta的财务安排感到不安。Meta本身的财务状况并不意味着它无法承担这些投资,但如此庞大的承诺规模,已经足以令市场提高警惕。

归根结底,AI基础设施建设有三个相互关联的核心条件:土地、电力和外壳设施(land, power, shell),芯片,以及融资。任何一环受到约束,都可能拖慢整体扩张。

主持人 Austin Lyons:

融资方面的情况已经比较清楚:超大规模云厂商相对有能力承担投资,但新兴云服务商面临更大压力,行业也在尝试新的融资结构。

如果暂时把融资放在一边,回到传统的供应链瓶颈,未来两年究竟哪些环节会限制行业增长?

ASML表示,2028年的产能已经售罄;台积电的需求也始终超过供给,尽管其正在扩大2纳米制程产能。市场还普遍认为电力是一个重要瓶颈。

Dylan,你们最近提到,明年可能有接近50吉瓦的数据中心投入使用。能否按照约束程度,对半导体供应链的各个环节进行排序?

Dylan Patel:

在半导体供应链内部,除内存之外,我认为最大的瓶颈是基板,包括封装基板、PCB材料及其他相关材料。

这些环节过去长期投资不足。日本不少相关材料供应商的经营风格比较保守,不愿大规模扩产,因此未来两年,无论是AI加速器、CPU还是供应链中的其他组件,都会受到明显限制。

在我看来,基板是当前最严重的瓶颈之一,其约束程度甚至超过土地、电力、数据中心外壳设施以及部分半导体制造设备。

第二大瓶颈是内存。

第三类瓶颈是光学互联,包括共封装光学(CPO)和近封装光学(NPO)。相关产业要大幅提高产量并不容易。即使所有企业都希望在2028年采用CPO,或者某一家大型企业希望在那时全面部署,也无法获得足够的激光器、光纤连接组件及其他配套部件。

至于土地、电力和数据中心外壳设施,电力确实是一个重要约束。但我们的研究发现,市场对明年数据中心建设所面临的限制可能估计得过高。

预计明年全球有接近50吉瓦的数据中心处于建设之中,其中美国约有35吉瓦,其余分布在澳大利亚、印度、马来西亚等地区。事实上,全球各地的数据中心都在快速建设。

虽然电力仍然紧张,但企业可以采取多种方式缓解限制,例如在数据中心现场部署燃气轮机、往复式发动机或燃料电池。

因此,尽管电力和数据中心建设条件确实存在约束,但其影响可能低于基板、内存、激光器以及其他光学供应链组件。

电力供应可以通过一些相对直接的办法在较短时间内增加,而半导体供应链涉及的制造工艺和材料体系复杂得多,扩产所需时间也更长。

Stacy Rasgon:

这个判断很有意思。英伟达和博通都给出了相当高的增长指引。黄仁勋曾表示,英伟达收入至少有望增长70%;博通方面给出的增长预期甚至达到100%。但这些指引本身已经受到限制,企业主要考虑的约束似乎是土地、电力和数据中心建设条件。

或许这是因为它们本身就是半导体公司,对芯片能够生产多少比较清楚,因此把注意力更多放在数据中心建设上。

我同意电力和土地方面存在一些解决办法。不过,即使是现场发电,也未必能迅速实现。如今订购一台燃气轮机究竟需要等待多久?马斯克甚至表示,他准备自己制造涡轮机叶片,以绕开供应限制。

内存市场尤其值得关注。内存股目前的估值很低,许多股票的远期市盈率只有两三倍、三四倍,而内存价格却已经大幅上涨。

我并不直接负责内存股研究,但以SanDisk为例,其给出的季度每股收益指引,甚至高于该公司股票约两年前的股价。这说明当前价格上涨的力度非常大。

然而,内存股普遍只有个位数市盈率,因为市场通常会在行业周期接近高峰时这样给股票定价。投资者担心,尤其是进入2028年后,新增供给开始释放,内存价格就会大幅下跌。

我一直在想:如果这种情况没有发生呢?

看看AI机架内部,约70%—80%的硅面积其实是内存,主要是DRAM。高带宽内存(HBM)还有一个特殊问题:生产同等容量的HBM,所需晶圆数量大约是普通DDR5 DRAM的三到四倍。

这意味着,HBM生产会占用大量晶圆资源,挤压原本可用于生产PC、智能手机等产品所需普通内存的产能。

Stacy Rasgon:

HBM的需求量很大,这也引出了另一个瓶颈:半导体制造设备,也就是用于生产这些芯片的设备。

本周有一家企业发布了对明年晶圆制造设备(WFE)市场的初步展望,预计市场规模将超过2000亿美元。我发现这一预测相当令人惊讶,因为我认为市场规模很难达到更高水平,甚至连这个数字能否实现都值得怀疑。原因很简单:我们没有足够的晶圆厂。

洁净室几乎已经全部被占满。企业一直在尽可能提高现有厂房的利用率,这也是为什么年初市场对WFE规模的估计约为1200亿美元,而今年最终可能达到1550亿美元。增长主要来自更充分地利用现有设施,而不是大规模新增厂房。

但现有设施的利用率终究有上限。企业必须建设新的洁净室,而这需要数年时间。新洁净室将在2027年开始少量投用,并在2028年和2029年进一步增加。到那时,我们才能更清楚地判断供需是否会出现失衡。

如果需求继续保持目前市场预期的增长速度,内存仍可能长期处于供应紧张状态。

基板、PCB及其他材料也存在类似问题。设备供应商纷纷表示,短期供应限制已经影响到它们提升产量的能力。受限的并不只是PCB和半导体芯片,还包括阀门、质量流量控制器等看似普通的组件。这些基础零部件的短缺,也会影响产业链其他环节。

疫情期间,半导体设备企业和供应链上的多数公司已经吸取了一些教训,如今对供应问题的管理比过去更成熟。但当前仍有许多环节受到约束,而且必须先解决这些问题,其他环节的产能限制才有可能得到缓解。

因此,供应链实际上存在一层又一层的限制。我认为,短缺局面短期内不会消失。今年问题不大,但明年可能仍然紧张,2028年大概率也不会宽松。至于2029年,就要看届时的需求情况了。总体而言,我预计供应紧张还会持续一段时间。

主持人 Austin Lyons:

如果未来几年供给持续紧张,而内存行业的利润率已经达到80%以上,甚至88%—90%,那么整个产业链上的企业是否都会继续提高价格、获取更高利润?

Stacy Rasgon:

半导体行业有一个很有意思的特点:过去,人们几乎把价格持续下降视为理所当然。事实上,半导体行业历史上曾是一个严重损毁经济价值的行业,长期无法覆盖资本成本,创造的价值大多流向消费者。

很多年前,我在麦肯锡工作时曾参与一项关于半导体行业价值创造的研究。我们采用经典的经济利润定义,将企业的投入资本回报率与加权平均资本成本进行比较,并对整个行业进行汇总。研究覆盖了大约150家公司、12个细分领域以及一个完整的行业周期。

研究的初始时间范围大约是1996年至2004年。结果显示,整个行业累计损毁了约50亿美元的经济利润。如果剔除英特尔,损毁规模则达到约500亿美元。在当时,这是一个相当惊人的数字。

换句话说,行业创造的价值并不足以覆盖资本成本,经济价值实际上流向了消费者。那是购买半导体产品非常划算的时代。

2008年之后,行业经历了整合与集中,企业开始逐步改善盈利能力,至少慢慢能够覆盖资本成本。

疫情则改变了行业对自身定价能力的认识。企业发现,自己其实拥有很强的定价权。此前,行业并没有真正意识到这一点。

疫情期间,原材料等投入成本不断上升,但我跟踪的许多公司没有一家因为成本上涨而出现毛利率下降。它们都提高了价格,而且提价幅度足以抵消成本上涨。

例如,一家企业原本的毛利率为60%,如果成本上涨100个单位,它可以将价格提高160个单位,从而维持原有毛利率。客户也接受了这些涨价。

我认为,疫情期间的通胀反而帮助半导体行业改善了盈利能力。2023年和2024年,行业出货量与2019年相比大体持平,但整体平均售价(ASP)却高出约50%,即使剔除内存也是如此。

如今,这种定价能力表现得更加明显。预计今年半导体行业总收入将达到约1.5万亿美元,甚至可能更高,同比增幅接近100%。其中,约70%—80%的收入增量来自内存平均售价上涨,其余相当一部分也来自非内存产品的价格提升。

相比之下,出货量的增长幅度要小得多。行业正在更充分地发挥定价权,而客户总体上接受了这些价格,因为在供给紧张的情况下,他们往往没有太多选择。

因此,只要供给继续紧张,我认为这种情况就可能延续。

Dylan Patel:

半导体行业里,不同企业运用定价权的方式并不相同。有些企业在景气时大幅提价,但在行业低迷时又遭受严重打击;另一些企业则能够在整个周期中相对稳定地维持利润率。

以台积电为例,过去十年,其毛利率从约45%稳步提高到约60%。景气时它确实能够提高价格,但在行业低迷时,也没有大幅让出此前获得的利润。

内存行业则不同。就在大约两年前,行业还处于互联网泡沫以来最糟糕的下行周期之一,毛利率甚至为负。如今,内存厂商的盈利却大幅改善。

因此,产业链不同环节的定价权,取决于各自的市场结构。台积电拥有接近垄断的地位,而且与客户维持长期合作关系,即使有能力提价,也没有像部分其他企业那样大幅提高价格。

内存厂商的情况则有所不同。假如苹果等客户在行业下行时对供应商施加很大压力,那么当周期反转、供不应求时,供应商也会提高价格。当前我们看到的,正是这种周期性议价能力的变化。

Dylan Patel:

2024年,建设1吉瓦算力的总成本约为400亿美元,涵盖芯片、土地、电力和数据中心设施等各个环节。如今,这一成本已经超过600亿美元。

当然,2024年真正建设1吉瓦算力的企业并不多,而到2026年,越来越多企业开始建设如此大规模的算力设施。与此同时,每吉瓦算力能够提供的计算能力也在提高。

但问题是,这样一个吉瓦规模的算力集群,盈利能力可能非常可观。

此前我提到,云服务商往往必须获得超大规模云厂商的长期采购承诺,才能为集群融资。这意味着它们需要提前锁定价格,而这也限制了它们获取超额利润的空间。

马斯克采取了另一种策略:如果芯片、土地、电力和数据中心设施都受到限制,那么他可以先把基础设施建好,等到真正投入使用后再签订租赁合同。这样一来,当算力供给非常紧张时,他就有机会以更高的价格出租,而不必提前锁定较低的价格。

与此同时,AI实验室本身也能从推理服务中获得巨额收入。根据相关披露,Anthropic每吉瓦推理算力对应的收入规模可能达到700亿—800亿美元。

但这些收入并不意味着利润率可以一直维持在高位。如果一家企业以每吉瓦150亿美元的成本获得算力,利润率可能达到75%—80%;如果成本上升到500亿美元,利润率就会大幅下降。

因此,究竟由谁承担这些成本,仍然是一个问题。

英伟达也必须面对这种压力。尽管其利润率总体保持稳定,甚至略有下降,但它不得不吸收内存涨价以及基板、光学组件等其他供应链环节的部分成本。

结果就是,英伟达向客户收取的价格大幅上涨,但自身利润率并没有同比例上升。

这使得产业链上的利润分配变得格外重要:谁能保住利润率,谁能进一步扩大利润,谁又不得不承担成本上涨带来的压力?这些问题正在实时改变行业的定价格局。

未来,客户可能以不同价格签订类似的合同。销售能力强、能够抓住供需紧张机会的企业,可能获得非常高的价格。

主持人 Austin Lyons:

这与Stacy刚才谈到的疫情期间的变化很相似:半导体行业逐渐意识到,自己可以为所创造的价值收费。

Dylan,你也提到,像英伟达这样的系统供应商必须决定,当各种组件的价格都在上涨时,是将成本转嫁给客户,还是自己承担成本、维持利润率。

问题在于,未来几年基础设施建设显然还会继续,供给有限、需求旺盛,但融资却越来越困难。那么,Meta等大型云厂商和模型公司会不会有一天认为,算力已经贵到难以承受,进而开始抵制继续涨价?

Stacy Rasgon:

评估这些投资时,不能只看成本和利润率,还要看企业花钱之后获得了什么。

以英伟达为例,每一代产品的售价都在上涨,但客户获得的性能提升幅度往往更大。这一点非常重要。

从安培到霍珀,GPU平均售价大约翻倍,但性能提升了约10倍。从霍珀到黑韦尔,情况更难直接比较,因为两代架构存在较大差异,不过可以粗略估计,单颗GPU的平均售价上涨约50%,性能则提升了3—30倍,考虑后续的软件优化,实际提升可能更大。

再从黑韦尔到鲁宾,机架成本可能再次大幅上涨。按照英伟达给出的参考数据,黑韦尔机架成本约为250亿美元,鲁宾约为400亿美元,但性能提升约10倍。

因此,关键不在于每吉瓦算力的建设成本从250亿美元升到400亿美元,或者从400亿美元升到600亿美元,而在于客户每花一美元,究竟能获得多少Token和计算能力。

只要每单位成本所能获得的性能持续提升,这种投资就仍然具有吸引力。

但如果英伟达未来推出的新一代产品,性能提升幅度只有20%,我就会开始非常担心其定价能力和利润率。

英伟达的毛利率超过70%,而且建立在庞大的收入规模之上。市场一直在问:面对竞争对手和其他GPU供应商,它如何继续维持如此高的利润率?

我的看法是,只要英伟达能够持续让性能提升幅度显著超过平均售价涨幅,就不必过度担心利润率。因为随着产品复杂度上升、成本增加,售价也必须提高;关键是性能与成本之间的关系,必须始终对客户有利。

如果创新速度放缓,我就会非常担心。

我记得2023年前后参加过Hot Chips会议。当时英伟达首席科学家Bill Dally发表了主题演讲,其中一个观点让我印象很深:过去十年,GPU性能提高了约1000倍。英伟达通过多种不同的技术手段实现了这一进步,而Dally表示,未来十年的目标是再将性能提高100万倍。

如果英伟达能够沿着这一轨迹继续前进,我就不会那么担心其利润率。但如果它无法保持创新速度,或者其他竞争者迅速追上,情况就会完全不同。

最终,这些成本总得有人承担。理想情况下,客户愿意为自己获得的价值付费。但如果成本以不可持续的速度上涨,供应商就必须开始承担其中一部分,产业链各环节之间的利润争夺也会变得更加激烈。

主持人 Austin Lyons:

Dylan,越来越多企业开始设计自己的芯片。OpenAI的案例尤其值得关注。未来两年,我们应该如何看待GPU的发展,以及各类XPU和AI加速器的快速增长?不少初创企业正在尝试不同的芯片架构,这会怎样改变竞争格局?

Dylan Patel:

越来越多企业尝试自研芯片,这已经是明确的趋势。OpenAI展示了一个重要事实:一家企业即使是第一次设计芯片,也有可能做出性能非常出色的产品。

OpenAI曾邀请我们进入实验室。我们使用SemiAnalysis的开源推理基准测试InferenceX,对多种开源模型进行了测试,结果显示,其第一代芯片的性能超过了英伟达的Blackwell。

这款芯片在设计和编程过程中大量使用了AI工具。Anthropic也开始推进自己的芯片项目,而且希望以OpenAI一半的时间完成开发。这些目标相当激进,但如果模型能够显著加快设计过程,就并非完全没有可能。

与此同时,Google已经开始对外销售TPU,亚马逊的Trainium也变得相当成熟,并且能够很好地支持PyTorch。Meta和微软同样有非常积极的芯片路线图。

这背后有很强的经济动机。我们前面提到,建设1吉瓦算力的成本已经从400亿美元升至600亿美元以上。如果能够剔除英伟达、博通、迈威尔等芯片设计企业的利润,同等规模算力的成本可能只有200亿美元左右。

换句话说,如果能够显著降低芯片设计环节的利润成本,理论上,一吉瓦算力所节省的资金就可能支持建设更多算力。对那些需要大量运行推理任务的企业而言,这种经济效益非常明显。

因此,英伟达必须保持极快的创新速度。它不能只做到每年每美元性能提升两倍,否则其他竞争者就可能迅速追上。

如果英伟达能够持续保持这种性能提升速度,它当然有理由继续获得高利润。但如果大型客户能够自行设计芯片、部署芯片,并扩大生产规模,同时以接近供应链成本的价格获取内存、台积电晶圆、基板和光学组件,那么它们就有很大的降价空间。

如果产业链进一步拆分,英伟达或博通不再掌握过去那样的主导地位,情况可能会发生很大变化。这也是市场担心两家公司估值倍数处于历史低位的原因之一。

例如,Meta是否会减少对博通的依赖?Google是否也会这样做?这些大型客户是否最终会停止采购英伟达芯片,完全转向内部设计?

目前,组件供应商本身也可能获得很强的定价权。真正的问题是,英伟达和博通能否继续维持目前惊人的利润率。至少未来两年,我认为它们仍有机会做到这一点,但两年之后就很难说了。

芯片设计本身依然非常复杂,不过,AI模型正在显著降低软件开发和加速器编程的难度。

以我们的InferenceX基准测试为例,让英伟达推理系统正常运行花了大约六个月;AMD花了六至九个月;Google和亚马逊都只用了几个月;而OpenAI的芯片只花了约一个半月。

从芯片能够正常工作,到软件能够在芯片上运行,这一过程正在迅速缩短。现在,各家企业开始把注意力转向芯片设计本身。

芯片设计会不会像软件开发一样,逐渐成为更普及、更标准化的能力?如果答案是肯定的,能够设计芯片的企业数量就可能大幅增加。

当然,芯片设计仍然需要支付掩模、电子设计自动化(EDA)工具等固定成本,单是这些投入就可能达到5000万美元。但如果AI持续降低设计和编程门槛,参与芯片设计的企业仍可能越来越多。

一旦芯片设计变得更加普及,行业利润率就可能下降。我们已经看到,部分软件即服务(SaaS)公司遭遇了市场重估;与此同时,英伟达和博通的盈利仍在以每年两倍以上的速度增长,但股价表现却相对停滞。

这正是半导体行业未来最值得关注的问题之一。

主持人 Austin Lyons:

那么,未来两年GPU和XPU市场会怎样发展?越来越多AI加速器初创企业正在尝试不同的架构,竞争格局是否会出现明显变化?

Dylan Patel:

对于XPU企业,我认为有两条不同的路径。

如果你是一家超大规模云厂商,就可以采取相对稳健的设计路线,做出类似Google或英伟达的产品,并依靠自身规模推动应用。

但如果你是一家初创公司,就必须尝试非常激进、与现有方案明显不同的技术路线。回顾第一代AI硬件初创企业,Cerebras和Groq之所以相对成功,一个重要原因就是它们采取了更大胆的技术路径。

对于现在涌现的这些初创企业,我认为只有那些技术方案足够独特、无法被英伟达、Google或AMD轻易复制的公司,才真正有机会脱颖而出。

好的一面是,目前有大量资金流入这一领域,各种激进的架构和设计思路都在接受检验。

与此同时,英伟达在产业链中的份额已经开始变化。2023年至2024年,英伟达占据了相当高比例的HBM和先进封装产能;到了2025年,这种增长开始放缓,2026年其份额进一步下降。按照我们的判断,明年这一趋势还可能延续。

但这并不意味着英伟达的利润会立即下降。整个市场增长得太快,即使份额下降,英伟达明年的盈利仍可能翻倍。

Google、亚马逊和AMD都在获取份额。这里不能只看芯片数量,因为不同芯片的尺寸和价值差别很大。更有意义的指标包括先进封装晶圆、HBM的使用量,以及晶圆代工和内存方面的支出。

这些指标都表明,竞争者正在逐步扩大自己的市场份额。

展望2028年和2029年,英伟达的增长速度可能会放缓,未必还能维持每年收入增长100%的水平。届时,市场需要判断:增长放缓是否会进一步导致其份额下降,还是英伟达能够通过鲁宾之后的新一代架构继续保持领先?

英伟达必须持续加快创新步伐。它采用一年一代芯片的更新节奏,不仅是为了自身发展,也是为了让竞争对手难以追赶。

英伟达的护城河也不只是硬件。CUDA软件、庞大的开发者生态、已经部署的基础设施,以及自身的资产负债表和融资能力,都构成了竞争优势。

英伟达还在利用AI加速自身的芯片设计。它并不是没有意识到竞争压力,也并非没有采用新技术。归根结底,这是一场竞赛。

黄仁勋显然对竞争保持高度警惕。他吸取了英特尔历史上的一些教训,始终关注竞争者的动向。

Stacy Rasgon:

这也解释了为什么英伟达的估值会处于如此低的水平。

大约九至十个月前,我曾写过一份研究报告,比较英伟达与整个半导体行业的相对估值。当时,过去十年里,英伟达的相对估值只有13个交易日比那时更低。

而现在,它的相对估值甚至比当时还要低。

投资者担忧的不只是AI需求能否持续。假如整个AI需求都不复存在,那么无论是英伟达还是其他公司,都会受到严重影响。

但在半导体行业内部,英伟达最大的威胁显然来自竞争。它目前领先同行很远,但所有竞争者都想抢占它的市场。

这也是半导体行业一贯的特点:只要一家公司取得成功,就会不断有人试图挑战它。英伟达必须确保自己始终领先,而随着行业发展,这件事只会越来越难。

主持人 Austin Lyons:

前面谈到GPU、XPU,以及竞争者不断扩大市场份额。我们的讨论主要集中在数据中心和超大规模云厂商。

那么,对于英伟达这样的公司,企业本地部署算力是否也是一个重要的增长机会?

Stacy Rasgon:

英伟达现在会区分来自超大规模云厂商和非超大规模云厂商的收入,但这种划分并不完全准确。部分AI实验室可能被归入非超大规模云厂商,而超大规模云厂商的支出也可能间接支持这些实验室,因此两者之间存在交叉。

粗略来看,两类客户目前大约各占一半。AI实验室直接或间接贡献的收入,可能约占英伟达总收入的20%。这仍然是一个相当大的比例。

因此,英伟达的收入来源可能比我们此前想象的更加多元化。

但归根结底,企业采用AI是这个行业能否持续发展的关键。如果企业没有真正使用AI,整个产业的长期增长就缺乏支撑。

目前仍处于早期阶段,不过,我认为企业端至少已经出现了一项具有明确价值的核心应用:编程。

AI编程智能体的收入正在快速增长。如今,几乎所有软件开发者都在使用AI辅助编程,很少有人还完全依靠手工编写代码。

企业应用的价值也不一定直接体现为收入增长,还可能体现为生产力提升,而后者更难衡量。

我自己就是一名金融分析师,需要建立财务模型。几个月前,我们团队尝试用Claude来完成这类工作。最初的结果并不理想,但后来一位同事认为工具已经有了明显进步。

于是,我们安排了一次团队会议,让它从零开始为一家我们已经覆盖的公司建立财务模型。

结果令人惊讶:它只花了一个小时二十分钟,就完成了一份模型。模型覆盖了十年的历史数据,处理了公司多次业务重组和分部调整,还根据CEO在财报电话会议上的发言,尝试运用逻辑推断进行预测,而不是简单地随机生成数字。

这项工作,如果交给团队中的一名分析师,可能需要一周;如果由我亲自完成,可能需要三个月。但Claude只花了一个小时二十分钟。

这意味着,同样的团队可以完成更多工作,甚至用更少的人力完成更多任务。

当然,这也带来其他问题。如果AI在企业中广泛普及,是否可能导致失业率大幅上升?我并不知道答案,但这确实是值得考虑的问题。

就目前的实际体验而言,我越来越相信,AI应用能够带来真实回报。不过,这仍然是一个早期市场。很多企业还处于试验阶段,尚不清楚应该如何使用AI,也缺乏足够的专业知识来判断具体需求,因此普及需要时间。

总体而言,我对目前看到的情况持积极态度。

Dylan Patel:

我想补充一点:对于企业AI应用,我不认为大多数企业会大量采购硬件、在内部运行自己的模型。

模型推理存在明显的规模经济效应。对大多数企业来说,更合理的方式是直接购买Token,也就是调用云端模型的推理服务,再将这些能力与自己的数据结合起来。

我认为,这才是未来大多数企业消费AI的主要方式。

这与过去二十年的企业IT发展非常相似。二十年前,企业通常自行购买基础设施并部署系统;如今,大部分IT支出已经转向云计算。未来,企业在AI上的大部分支出,也可能用于购买Token,而不是自己购买算力、运行开源模型。

即使是制药公司和对冲基金,也可能主要为直接使用模型付费,而不是自行购买硬件运行开源模型。当然,市场上仍然会存在一些专门采购算力、部署模型并向客户提供服务的供应商。

这场讨论还有很多值得深入探讨的内容,不过我们已经超时了。今天的交流非常有意思,也感谢大家的参与。

风险提示及免责条款

市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

Disclaimer: This article is copyrighted by the original author and does not represent MyToken’s views and positions. If you have any questions regarding content or copyright, please contact us.(www.mytokencap.com)contact
More exciting content is available on
X(https://x.com/MyTokencap)
or join the community to learn more:MyToken-English Telegram Group
(https://t.me/mytokenGroup)