實際上，自去年Q3以來，DRAM市場進入寒冬。今年以來時不時聽到存儲要觸底反彈的聲音，但目前市場仍未解凍。據TrendForce最新研究顯示，由于DRAM供應商減產速度不及需求走弱速度，DRAM產品Q2均價季度跌幅擴大至13~18% 。

在DRAM的整體頹勢之中，HBM卻在逆勢增長。據悉，2023年開年后三星、SK海力士兩家存儲大廠HBM訂單快速增加，HBM3規格DRAM價格上漲超過5倍。

一邊是DRAM整體跌幅仍在進一步擴大，另一邊是HBM價格卻暴漲5倍，冰火兩重天。不禁要問，HBM為什么會這么重要？主要用在什么地方？HBM逆勢增長的主要驅動原因是什么？

HBM：AI芯片的最佳搭檔

按照不同應用場景，JEDEC（固態技術協會）將DRAM分為三個類型：標準DDR、移動DDR以及圖形DDR。HBM屬于最后一種，即圖形DDR。

資料來源：新思官網，JEDEC官網，芯八哥整理

內存墻，指的是內存性能嚴重限制CPU性能發揮的現象。存儲器與處理器性能差異正隨時間發展逐漸擴大，當存儲器訪問速度跟不上處理器數據處理速度時，存儲與運算之間便筑起了一道“內存墻”。而隨著人工智能、高性能計算等應用市場興起，數據量指數級增長，“內存墻”問題也愈發突出。

圖形DDR中，先出現的是GDDR，它是為了設計高端顯卡而特別設計的高性能DDR存儲器，是打破“內存墻”的有效方案。隨著深度學習等 AI 算法的發展，AI 服務器對計算能力和內存帶寬的要求越來越高。GDDR 逐漸達到極限，每秒每增加1GB 的帶寬所需要的電量劇增，NVIDIA 和 AMD 等廠商逐漸開始使用 HBM。

HBM（High Bandwidth Memory）即高帶寬存儲器，其通過使用先進的封裝方法（如TSV硅通孔技術）垂直堆疊多個DRAM，并與GPU封裝在一起。HBM通過系統級封裝（SIP）和硅通孔（TSV）技術實現垂直堆疊，擁有多達1024個數據引腳，可顯著提升數據傳輸速度，因此成為AI芯片中存儲的主流技術方案。

HBM結構圖

資料來源：美光官網

相較而言，GDDR獨立封裝在PCB上圍繞在處理器的周圍，而HBM則排布在硅中階層上并和GPU封裝在一起，面積縮小，離GPU更近，數據傳輸也更快。HBM之所以可以做到這樣的布局，是因為采用了3D堆疊技術，其直接結果就是接口變得更寬。因此，與傳統內存技術相比，HBM具有更高帶寬、更多I/O數量、更低功耗、更小尺寸的特點。與 GDDR5 相比，在相同數量顯存下，HBM產品大小僅僅是 GDDR5 的 6%，并且每瓦帶寬是其 3 倍以上。

HBM與GDDR5對比

資料來源：AMD官網

在HBM技術加持之下，DRAM芯片從2D轉變為3D，可以在很小的物理空間里實現高容量、高帶寬、低延時與低功耗。自2014年首款硅通孔HBM產品問世至今，HBM技術已經發展至第四代，分別是：HBM（第一代）、HBM2（第二代）、HBM2E（第三代）、HBM3（第四代）。HBM朝著不斷提高存儲容量、帶寬，減小功耗和封裝尺寸方向不斷升級，從最初的1GB存儲容量和128GB/s 帶寬的HBM1發展到目前的24GB存儲容量和819GB/s帶寬。

數據來源：SK海力士官網、芯八哥整理

乘AI東風，HBM需求激增

今年 ChatGPT 引爆全球，AI 相關需求呈快速增長態勢。據Bloomberg Intelligence報告顯示，生成式 AI 市場規模有望爆發式增長，從 2022 年的 400 億美元高速擴大至 2032 年的 1.3 萬億美元，十年間復合增速高達 42%。而 AI 的快速發展，對數據量和算力的需求也有大幅拉動，將拉動相關半導體需求的持續提升。

TrendForce 最新報告預計，2023年AI服務器出貨量（含GPU、FPGA、ASIC等）預估在120萬臺，年增長率近38%。AI芯片出貨量同步看漲，預計今年將增長50%。報告稱，目前高端AI服務器GPU搭載HBM芯片已成主流，預計2023年全球HBM需求量將年增近六成，達到2.9億GB，2024年將再增長30%。

作為高性能GPU的核心組件，根據Omdia 數據，2020 年全球 HBM 市場規模為 4.58 億美元，預計 2025 年市場規模將達到 25 億美元，年復合增長率高達 40.38%。

數據來源：Omdia，芯八哥整理

在ChatGPT等AI浪潮的推動下，高端AI芯片紛紛選擇搭載HBM技術，推升了HBM存儲需求。根據TrendForce統計，NVIDIA、AMD、Intel等高端AI芯片中大多選擇搭載HBM。目前NVIDIA的A100及H100各搭載達80GB的HBM2e及HBM3，在其最新整合CPU及GPU的Grace Hopper芯片中，單顆芯片HBM搭載容量再提升20%，達96GB。AMD的MI300也搭配HBM3，其中，MI300A容量與前一代相同為128GB，更高端MI300X則達192GB，提升了50%。

數據來源：NVIDIA官網，AMD官網，芯八哥整理

DRAM原廠主導HBM市場，SK海力士稱王

HBM市場目前由三大DRAM原廠占據，SK海力士占據過半份額。根據TrendForce統計，2022年三大原廠HBM市占率分別為SK海力士50%、三星約40%、美光約10%，預計2023年SK海力士將受益新世代HBM3產品的量產，其市占率有望提升至53%。

數據來源：TrendForce，芯八哥整理

SK海力士是目前唯一量產HBM3的公司，并向英偉達大量供貨，配置在英偉達高性能GPU H100之中，持續鞏固其市場領先地位。今年4月SK海力士又推出24GB HBM3產品(HBM3E)，容量再度提升且采用更薄的DRAM芯片垂直堆疊，實現了與16GB產品相同的高度，正被頭部公司爭相申請樣片測試。據韓媒Korea Times報道，三星的HBM3產品預計23H2量產，屆時將追趕SK海力士的市場。美光科技則進展相對較慢，于2020年7月宣布大規模量產HBM2E，HBM3作為其產品線仍在持續研發之中。

2021年的時候，HBM占整體DRAM市場只有不到1%。主要是因為HBM高昂的成本以及當時服務器市場中搭載相關AI運算卡的比重仍小于1%，且多數存儲器仍使用GDDR5、GDDR6來支持其算力。

今年以來，AI的浪潮愈演愈烈。在ChatGPT帶動的AIGC（生成式AI）的熱潮下，大廠們紛紛開始推出自己的類ChatGPT的大模型。TrendForce預測，到2025年，全球如果等同于ChatGPT的超大型AIGC有5款，類似Midjourney的中型產品有25款，以及80款小型產品，在這個條件下，上述所需的運算資源至少包含145600~233700顆英偉達A100 GPU。作為高性能GPU的核心組件，HBM今后的存在感或許會越來越強。

最新HBM產品消息，BusinessKorea報道，包括英偉達、AMD、微軟、亞馬遜在內的全球科技巨擘，已依序向SK海力士要求HBM3E樣品。申請樣本是下單前的必要程序，目的是厘清存儲器與客戶的GPU、IC或云端系統是否兼容。據信，該公司正在為今年下半年準備 8Gbps HBM3E 產品樣品，并計劃在明年上半年實現量產。