“AIGC浪潮，被广泛认为是第四次工业革命，正在给人类的生产方式带来颠覆性的变化。凭借堪比黄金的GPU，英伟达被AI授予“卖水者”称号，股价年内上涨240%。
然而在多方抢购下，英伟达GPU陷入了产能瓶颈。最新的H100芯片已经全部售罄，现在的订单要到2024年Q1或Q2才能使用。
根本原因是GPU零件产能严重不足，进而影响供应。
以H100芯片为例，其关键部件有:1)逻辑芯片；2)HBM存储芯片；3)CoWoS包。
核心逻辑芯片的尺寸为814平方毫米，主要由最先进的TSMC台南第十八工厂提供。使用的工艺节点是“4N”，实际上是5nm+。由于PC、智能手机和非AI相关数据中心芯片市场疲软，TSMC 5nm+产能利用率目前不足70%。所以逻辑芯片的供货是没有问题的。
在H100中央的逻辑芯片旁边，有六个HBM(高带宽内存)，这是一种基于3D堆叠技术的DRAM内存芯片，可以像摩天大楼中的地板一样垂直堆叠。多个DDR芯片堆叠在一起，通过硅通孔(TSV)连接，并通过TCB键合，以实现更高的带宽、更高的位宽、更低的功耗和更小的尺寸。
内存芯片对GPU性能至关重要，尤其是用来训练AI的高性能GPU。推理和训练工作负载是内存密集型任务。随着AI模型中参数数量的指数级增长，模型规模被推高到TB级别，只有一个权重。因此，从内存中存储和检索训练和推理数据的能力决定了GPU性能的上限。
作为HBM的先驱，HBM的供货几乎被韩国存储芯片厂商SK海力士垄断，市场份额超过95%，也是唯一有能力生产H100各种型号使用的HBM3的厂商。
HBM3的供应目前也相当紧张。此前有媒体报道称，英伟达和AMD要求SK海力士提供尚未量产的下一代HBM3E芯片样品。英伟达已经要求SK海力士尽快供应HBM3E，并愿意支付“溢价”。
然而，随着存储芯片制造商投入巨资增加HBM3产能，今年供应紧张的局面可能会有所缓解。近日，有媒体报道称，三星电子在通过最终质量测试后，于8月31日与英伟达签署协议，向后者供应HBM3。最早将于下周上市。
此前，花旗集团也在报告中透露，三星将在第四季度开始向英伟达供应HBM3。
另一个主要的容量瓶颈在于CoWoS封装。
HBM和考沃斯封装技术相辅相成。HBM对焊盘数量要求高，走线长度要求短，这就需要CoWoS先进的封装技术来实现在PCB甚至封装基板上无法实现的高密度和短路连接。
目前几乎所有的hbm都采用了CoWoS封装技术。NVIDIA GPU CoWoS包的主要供应商是TSMC。然而，由于需求的爆炸式增长，TSMC的生产线即使满负荷运转也很难填补供需缺口。为此，TSMC在竹南、龙潭、台中新开了三家工厂，其中竹南工厂占地14.3公顷，比其他封装厂的总和还大。
一些市场分析师认为，TSMC正在积极增加其先进的包装能力，以满足市场对其先进的包装解决方案的需求。
此外，英伟达首席财务官柯莱特·克雷斯(Colette Kress)最近透露，英伟达已经开发并认证了其他供应商在CoWoS封装等关键工序的生产能力。预计未来几个季度供应量将逐渐增加，英伟达将继续与供应商合作提高产能。"