【看中国2023年8月30日讯】近期,跟同事讨论英伟达的最新财报,把目前最火热的算卡H100的物料成本给拆了一下,结合近期海外媒体的一些测算,其中有不少有意思的地方:
1. H100的物料成本(Bill of Materials, BOM),其中主要就是三个部分:核心逻辑芯片、HBM存储芯片、CoWoS封装。另外还有PCB板和其他一些辅助器件,价值占比相对较低。
2. 在网上找了一张H100的图(SXM5模组,下图),简单标注一下:中间红色框就是核心逻辑芯片,周围围绕着6颗HBM存储芯片,然后7颗芯片整体用CoWoS工艺(一种Chiplet技术)封装起来。
目前最火热的英伟达算卡H100(SXM5模组)(网络图片)
3. 首先是核心逻辑芯片:这是一颗面积为814mm2的Die(裸晶),是核心中的核心,由台积电台南18号工厂生产,工艺节点用的是“4N”,其实并非真正的4nm,叫做5nm+或许更合适。
4. 这一块核心芯片成本多少?台积电一片4N工艺的12寸晶圆价格为13400美元,面积大概70695mm2,理论上能切80多块,考虑到良率和损耗,至少也能切65块,单块价格在200美元左右。
5. 然后是HBM3存储芯片,一共6颗,围绕着GPU,左右各3块,采购自韩国厂商SK海力士。每个HBM芯片容量16GB,每GB大概15美元,6颗芯片加起来大概要1500美金左右。
6. 最后是CoWoS封装。这是一种2.5D的封装工艺,算是台积电的独家技术。相比把芯片堆叠在一起的3D封装,CoWoS工艺能够提供更好的成本、散热和吞吐带宽,后两者对GPU特别重要。
7. CoWoS封装的成本台积电不会对外公布,但台积电财报披露了CoWoS工艺目前占总营收7%,客户只有英伟达和AMD。海外分析师Robert Castellano据此做了一个测算,大概封装一块H100需要723美金。
8. 这样,我们把之前三块成本相加,大概在$2500左右,其中台积电占1000美金(逻辑芯片+CoWoS),SK海力士占1500美金(未来三星会染指),再算上PCB等其他材料,整体物料成本不超过3000美金。
9. 那H100卖多少钱呢?35000美金,直接加了一个零,毛利率超过90%。过去10年,英伟达毛利率大概在60%上下,现在受高毛利的A100/A800/H100的拉动,今年Q2英伟达的毛利率已经站上了70%。
10. 这有点反常识:英伟达严重依赖台积电的代工,后者地位无人撼动,但这么一块3.5万美金的卡,制造它的台积电只能拿1000美金,而且只是收入,不是利润。这可能也是代工模式的魅力所在。
11. 不过,用毛利率来定义暴利,对于芯片公司意义不大,要是从沙子开始算,那毛利率更高。一张4N工艺的12寸晶圆,台积电卖给谁都差不多是1.5万美金一片,英伟达能加个零卖给客户,的确是人家本事。
12. 加零的关键是CUDA软件生态,十几年的持续砸钱,累计已经投入几百亿美金。目前,英伟达全球超过2万人,大都是高薪的软硬件工程师,把它们的薪资扣完,英伟达还能剩30~40%的净利润率。
13. 目前,H100的瓶颈主要卡在台积电,而台积电的产能瓶颈又卡在CoWoS封装上,正在疯狂上产能。海外机构GPU Utils分析,目前H100的需求是43.2万张,现在一卡难求,从下单到收货至少要等3~6个月。
14. H100的成本结构,验证了业界的一个共识:英伟达是一家软硬件生态公司,卖的是系统,不是硬件。苹果是这种境界的集大成者!