在英伟达一步步站稳万亿市值脚根的蹊径上，少不了两项要害手艺支持，其中之一是由台积电主导的CoWoS先进封装，另一个即是席卷当下的HBM（高带宽存储）。

英伟达H200是首次接纳HBM3E存储器规格的AI加速卡。借助内存速率更快、容量更大的HBM3e，英伟达H200以每秒4.8TB的速率提供141GB的内存，与A100相比，容量险些是其两倍，带宽也提升了43%，从而加速天生式AI和大语言模子，提高高性能盘算（HPC）的事情负载。

随着人工智能的兴起，HBM成为巨头们抢占的高地。三星、SK海力士、美光等存储巨头纷纷将HBM视为重点生产产物之一。

HBM的火热，给市场掀起伟大波涛。一起看看HBM这股热潮给市场带来了哪些转折？

HBM走红，带来三大影响

HBM成为力挽行业下行的要害词之一

数个季度的连续低迷下，头部存储厂商相继展现出季度收入环比增进趋势，其中以SK海力士的显示最为亮眼，背后就离不开由HBM拉动对DRAM的需求提升。

今年Q1，SK海力士收入创历史同期新高，营业利润也创下了市况*的2018年以来同期第二高，公司将其视为脱节了长时间的低迷期，最先转向了周全苏醒期。 SK海力士示意：“依附HBM等面向AI的存储器手艺向导力，公司提升了面向AI服务器的产物销量，同时连续实行以盈利为主的谋划流动，从而实现了营业利润环比增进734%的业绩。”

三星电子曾示意天生式AI市场应用将带来HBM等支持大规模数据处置的内存产物需求快速增进，公司接到了大量客户需求。预计2024年HBM的需求可能泛起陡峭增进。

美光示意，AI服务器的DRAM容量是通俗服务器的6倍到8倍，NAND容量是通俗服务器的3倍。英伟达DGX GH200所需的DRAM容量是通俗服务器的数百倍。

通用DRAM恐缺货涨价

通用型DRAM内存芯片面临的供应欠缺，主要源于业界对HBM等类型的DRAM举行了大量的投资，而通用型DRAM的产能行使率相对较低。现在，三星和SK海力士的产能行使率仅为80%到90%，远低于NAND闪存的全速生产状态。

自2024年头以来，通用型DRAM的产能仅提升了约莫10%，但智能手机、PC和服务器市场的增进率预计仅为2%到3%。全球云盘算和科技公司在AI基础设施上的投资削减，并未能显著推动DRAM需求的苏醒。

然而，在统一时期内，企业级固态硬盘（eSSD）的需求却因人工智能的普及而激增。因此，三星、SK海力士等主要制造商在第二季度满负荷运行其NAND生产线。此外，铠侠也在市场条件改善后竣事了减产，NAND产能行使率恢复至100%。

由于通用DRAM内存芯片在消费市场，如小我私人电脑和移动终端等领域施展着伟大作用，而随着市场需求的放大，可能会泛起大局限的欠缺。凭证摩根士丹利最新讲述，全球内存市场在2025年将迎来一次亘古未有的供需失衡，2025年HBM的供应不足率将到达-11%，而整个DRAM市场的供应不足率将高达-23%。

争取战，不只是手艺

存储巨头在HBM手艺领域的争取战日益猛烈，从HBM1到HBM2、HBM3，再到最新的HBM3e，每一代手艺的演进都标志着存储性能的显著提升和市场竞争的加剧。

HBM1最早于2014年由AMD与SK海力士配合推出，作为GDDR竞品，为4层die堆叠，提供128GB/s带宽，4GB内存，显著优于同期GDDR5。

HBM2于2016年宣布，2018年正式推出，为4层DRAMdie，现在多为8层die，提供256GB/s带宽，2.4Gbps传输速率，和8GB内存。

HBM2E于2018年宣布，于2020年正式提出，在传输速率和内存等方面均有较大提升，提供3.6Gbps传输速率，和16GB内存。

HBM3于2020年宣布，2022年正式推出，堆叠层数及治理通道数均有增添，提供6.4Gbps传输速率，传输速率最高可达819GB/s，和16GB内存。

HBM3E由SK海力士宣布HBM3的增强版，提供高达8Gbps的传输速率，24GB容量，2024年最先大规模量产。

然而这不仅仅是一场单纯的手艺较量，更是一场猛烈无比的产能竞赛。

凭证存储三巨头示意，今年的HBM供应能力已所有耗尽，明年的产能也已经大部门售罄。据专业机构剖析，今明两年HBM需求的动态缺口约为产能的5.5%和3.5%。因此，三大厂商纷纷开启产能冲刺竞赛。好比SK海力士正在大幅扩产第5代1b DRAM，以应对HBM与DDR5 DRAM的需求增添。根据晶圆投入量看，公司设计将1b DRAM月产能从今年一季度的1万片增添到年终的9万片，到明年上半年进一步提升至14万-15万片，是今年一季度产能的14-15倍。三星3月尾曾示意，预计今年HBM产能将增至去年的2.9倍。美光正在美国建设先进的HBM测试生产线，并思量首次在马来西亚生产HBM，以捉住AI热潮带来的更多需求。

相比GDDR，HBM强在哪儿？

凭证产物分类，DRAM 可以分为 DDR、LPDDR、GDDR、HBM。前三类产物主要用于传统周期领域，HBM 则主要是 AI 市场的动员。其中 DDR 主要用于消费电子、服务器、PC 领域；LPDDR主要用于移动装备、手机及汽车领域；GDDR 主要用于图像处置方面的 GPU 等。

随着数据量越发重大加之AI芯片的加速生长，冯氏盘算架构问题凸显：“存”“算”之间性能失配，使得盘算机的盘算能力增进遇到瓶颈，虽然多核并行加速手艺可以提高算力，但存储带宽的限制仍对盘算系统的算力提升发生了制约。GDDR是现在应用较为普遍的显存手艺，但在AI盘算领域GDDR也尴尬重任，于是制造商将眼光投向HBM手艺。

一个汽车经销商的十年

HBM具备高带宽的优势。通过多层堆叠，HBM能到达更高的I/O数目，使得显存位宽到达1024位，险些是GDDR的32倍，显存带宽显著提升。显存带宽显著提升解决了已往AI盘算“内存墙”的问题，HBM逐步提高在中高端数据中央GPU中的渗透比率。

HBM具备高密度、小体积等优势。相比传统DRAM，HBM在相同的物理空间内能够容纳更多的存储单元，从而提供更高的存储容量。这对于存储千亿参数甚至更大规模的大模子至关主要。此外，HBM通过3D封装工艺实现DRAM die的垂直偏向堆叠封装，可以较洪水平节约存储芯片在片上占有的面积。HBM芯片的尺寸比传统的DDR4芯片小20%，比GDDR5芯片节约了94%的外面积。凭证三星电子的统计，3D TSV工艺较传统POP封装形式节约了35%的封装尺寸。

受组织影响，GDDR的总带宽上限低于HBM。总带宽=I/O数据速率（Gb/s）*位宽/8。为解决DDR带宽较低的问题，本质上需要对单I/O的数据速率和位宽（I/O数*单I/O位宽）举行提升，可分为GDDR单体式方案和HBM堆叠式方案。单体式GDDR接纳大幅提升单I/O数据速率的手段来改善总带宽，GDDR5和GDDR6的单I/O数据速率已到达7 Gb/s到16Gb/s，跨越HBM3的6.4 Gb/s。HBM行使TSV手艺提升I/O数和单I/O位宽，从而大幅提升位宽，虽然维持较低的单I/O数据速率，但总带宽远优于GDDR。

HBM的综合功耗也低于GDDR。HBM通过增添I/O引脚数目来降低总线频率，从而实现更低的功耗。只管片上漫衍的大量缓存能提供足够的盘算带宽，但由于存储结构和工艺制约，片上缓存占用了大部门的芯片面积（通常为1/3至2/3），限制了算力提升。

现在，HBM已经成为超级盘算机、数据中央等焦点设施中不能或缺的要害组件，为大规模并行盘算提供了坚实的内存基础。尤其在图形处置领域，HBM的高带宽特征使得GPU能够更快速地接见和处置图像数据，从而为用户带来加倍流通、真切的视觉体验。

即即是业界*的英伟达，也对这一产物展现出了高度的依赖性。据悉，英伟达近几年宣布的多款旗舰产物（如A100、H100、H200）均搭配了差异数目的HBM。HBM已然是英伟达AI芯片的必备同伴。然而全球约九成的HBM市场被SK海力士和三星两家韩系企业垄断。

2024年终，HBM是连续欠缺？照样供过于求？

在存储三巨头的竞争中，由于海力士HBM3产物性能*，率先拿下英伟达订单，成为其服务器GPU的主要供应商。

三星主攻一些云端客户的订单，美光则直接跳过了HBM3，将主要精神放在了HBM3E产物上。仅从当下来看，美光的市场占有率和前面两个玩家有一些差距。

但不管怎样，三位存储芯片的大佬都在扩产能上不留余力。好比海力士已经放下豪言壮语，设计到2028年投资高达748亿美元，其中80%将用于HBM的研发和生产，而且将下一代HBM4芯片的量产时间提前到2025年。

据专业机构剖析，今明两年HBM需求的动态缺口约为产能的5.5%和3.5%。

不外凭证海豚投研的数据显示，HBM有望从2023年终的“求过于供”转为2024年终的“供大于求”。

海豚投研对照了2023—2024年HBM的供需关系情形。 从需求端来看，连系云服务厂商的资源开支和AI出货量情形，市场对HBM的需求有望从2023年的284MGB提升至512MGB； 从供应端来看，连系存储主流厂商的产能设计，HBM的供应端更可能从2023年的147MGB快速提升至1000MGB以上。

在此供需关系中，2023年供应端仅能知足需求的1/2，严重求过于供。求过于供的事态，推动各家厂商大幅提升产能设计。若是产能设计如实落地，2024年的HBM供需关系可能会泛起显著反转，供应端反而会超出整体的市场需求。 

对于HBM的价钱，当前由于供应仍相对主要，因此整体价钱在2024年将有所上涨。但随着三星产物通过认证和产能端的释放，HBM的产物价钱也可能泛起回落。 

国产厂商加速突破

随着AIGC手艺应用的快速生长，AI服务器和高端GPU的需求连续增进，将进一步推动HBM市场的高速增进。据预计，到2025年，中国HBM的需求量规模有望跨越100万颗。

而中国，在这一赛道还属于厥后者。

不久前，国家集成电路产业投资基金三期横空出世。大基金三期注册资源高达3440亿元，这一规模远超前两期基金，显示出国家对集成电路产业的重视和鼎力支持。云云重大的资金注入，无疑将为集成电路产业的生长提供壮大的动力。

现在，大基金三期对外投资重点还未正式披露。据悉，大基金三期有望增添笼罩人工智能芯片环节，在HBM产业链扶持大型晶圆厂。

今年3月，武汉新芯宣布了《高带宽存储芯粒先进封装手艺研发和产线建设》招标项目，这一行动标志着该公司正式进军HBM市场。通过行使三维集成多晶圆堆叠手艺，武汉新芯旨在打造更高容量、更大带宽、更小功耗的存储解决方案，以知足市场对高性能存储芯片的需求。面临外洋大厂对于 HBM3E 的量产，海内存储厂商也在 HBM 手艺上举行着加速突破，有望在 AI 大浪潮的需求下提升竞争实力。

面临外洋大厂对于 HBM3E 的量产，海内存储厂商也在 HBM 手艺上举行着加速突破，有望在 AI 大浪潮的需求下提升竞争实力。

封测龙头长电科技在投资者互动中示意，其XDFOI高密度扇出封装解决方案也同样适用于HBM的Chip to Wafer 和Chip to Chip TSV堆叠应用；通富微电此前示意，南通通富工厂先进封装生产线建成后，公司将成为海内*进的2.5D/3D先进封装研发及量产基地，实现海内在HBM（高带宽内存）高性能封装手艺领域的突破，对于国家在集成电路封测领域具有主要意义。

中国主要的存储芯片公司也在与封测厂商通富微电互助开展HBM相关项目。

然而总体来看，海内厂商在HBM手艺上的生长仍处于早期阶段。只管国际上已经有了更先进的HBM3和HBM3E产物，但海内存储厂商现在还处于HBM2的研发和产业化阶段。

面临外洋大厂在HBM3E等先进手艺上的量产优势，海内厂商仍需加速追赶措施，战胜手艺壁垒，实现从手艺追随得手艺引领的转变。在此历程中，客户对于AI服务器性能、内存带宽及内存巨细的连续高要求，既是对HBM手艺的伟大挑战，也是推动其不停前行的动力源泉。

值得注重的是，只管HBM在带宽性能上占有优势职位，但其高昂的成本与功耗也促使行业探索更多元化的解决方案。GDDR、LPDDR等内存手艺的快速生长，为AI处置器提供了更多选择，尤其是在成本、性能与功耗之间追求*平衡点的应用场景中。例如，GDDR7的推出不仅显著提升了内存容量与数据传输率，还因其相对较低的庞大度成为部门AI应用的理想之选。

综上所述，随着AI手艺的不停演进与市场需求的日益多样化，HBM作为高性能存储手艺的代表，将继续在特定领域施展要害作用。同时，海内厂商需紧抓时机，加速手艺创新与产业升级，以加倍天真多样的内存解决方案，知足AI时代对高性能盘算的多元化需求。