實(shí)際上，自去年Q3以來(lái)，DRAM市場(chǎng)進(jìn)入寒冬。今年以來(lái)時(shí)不時(shí)聽(tīng)到存儲(chǔ)要觸底反彈的聲音，但目前市場(chǎng)仍未解凍。據(jù)TrendForce最新研究顯示，由于DRAM供應(yīng)商減產(chǎn)速度不及需求走弱速度，DRAM產(chǎn)品Q2均價(jià)季度跌幅擴(kuò)大至13~18% 。

在DRAM的整體頹勢(shì)之中，HBM卻在逆勢(shì)增長(zhǎng)。據(jù)悉，2023年開(kāi)年后三星、SK海力士?jī)杉掖鎯?chǔ)大廠HBM訂單快速增加，HBM3規(guī)格DRAM價(jià)格上漲超過(guò)5倍。

一邊是DRAM整體跌幅仍在進(jìn)一步擴(kuò)大，另一邊是HBM價(jià)格卻暴漲5倍，冰火兩重天。不禁要問(wèn)，HBM為什么會(huì)這么重要？主要用在什么地方？HBM逆勢(shì)增長(zhǎng)的主要驅(qū)動(dòng)原因是什么？

HBM：AI芯片的最佳搭檔

按照不同應(yīng)用場(chǎng)景，JEDEC（固態(tài)技術(shù)協(xié)會(huì)）將DRAM分為三個(gè)類型：標(biāo)準(zhǔn)DDR、移動(dòng)DDR以及圖形DDR。HBM屬于最后一種，即圖形DDR。

資料來(lái)源：新思官網(wǎng)，JEDEC官網(wǎng)，芯八哥整理

內(nèi)存墻，指的是內(nèi)存性能?chē)?yán)重限制CPU性能發(fā)揮的現(xiàn)象。存儲(chǔ)器與處理器性能差異正隨時(shí)間發(fā)展逐漸擴(kuò)大，當(dāng)存儲(chǔ)器訪問(wèn)速度跟不上處理器數(shù)據(jù)處理速度時(shí)，存儲(chǔ)與運(yùn)算之間便筑起了一道“內(nèi)存墻”。而隨著人工智能、高性能計(jì)算等應(yīng)用市場(chǎng)興起，數(shù)據(jù)量指數(shù)級(jí)增長(zhǎng)，“內(nèi)存墻”問(wèn)題也愈發(fā)突出。

圖形DDR中，先出現(xiàn)的是GDDR，它是為了設(shè)計(jì)高端顯卡而特別設(shè)計(jì)的高性能DDR存儲(chǔ)器，是打破“內(nèi)存墻”的有效方案。隨著深度學(xué)習(xí)等 AI 算法的發(fā)展，AI 服務(wù)器對(duì)計(jì)算能力和內(nèi)存帶寬的要求越來(lái)越高。GDDR 逐漸達(dá)到極限，每秒每增加1GB 的帶寬所需要的電量劇增，NVIDIA 和 AMD 等廠商逐漸開(kāi)始使用 HBM。

HBM（High Bandwidth Memory）即高帶寬存儲(chǔ)器，其通過(guò)使用先進(jìn)的封裝方法（如TSV硅通孔技術(shù)）垂直堆疊多個(gè)DRAM，并與GPU封裝在一起。HBM通過(guò)系統(tǒng)級(jí)封裝（SIP）和硅通孔（TSV）技術(shù)實(shí)現(xiàn)垂直堆疊，擁有多達(dá)1024個(gè)數(shù)據(jù)引腳，可顯著提升數(shù)據(jù)傳輸速度，因此成為AI芯片中存儲(chǔ)的主流技術(shù)方案。

HBM結(jié)構(gòu)圖

資料來(lái)源：美光官網(wǎng)

相較而言，GDDR獨(dú)立封裝在PCB上圍繞在處理器的周?chē)鳫BM則排布在硅中階層上并和GPU封裝在一起，面積縮小，離GPU更近，數(shù)據(jù)傳輸也更快。HBM之所以可以做到這樣的布局，是因?yàn)椴捎昧?D堆疊技術(shù)，其直接結(jié)果就是接口變得更寬。因此，與傳統(tǒng)內(nèi)存技術(shù)相比，HBM具有更高帶寬、更多I/O數(shù)量、更低功耗、更小尺寸的特點(diǎn)。與 GDDR5 相比，在相同數(shù)量顯存下，HBM產(chǎn)品大小僅僅是 GDDR5 的 6%，并且每瓦帶寬是其 3 倍以上。

HBM與GDDR5對(duì)比

資料來(lái)源：AMD官網(wǎng)

在HBM技術(shù)加持之下，DRAM芯片從2D轉(zhuǎn)變?yōu)?D，可以在很小的物理空間里實(shí)現(xiàn)高容量、高帶寬、低延時(shí)與低功耗。自2014年首款硅通孔HBM產(chǎn)品問(wèn)世至今，HBM技術(shù)已經(jīng)發(fā)展至第四代，分別是：HBM（第一代）、HBM2（第二代）、HBM2E（第三代）、HBM3（第四代）。HBM朝著不斷提高存儲(chǔ)容量、帶寬，減小功耗和封裝尺寸方向不斷升級(jí)，從最初的1GB存儲(chǔ)容量和128GB/s 帶寬的HBM1發(fā)展到目前的24GB存儲(chǔ)容量和819GB/s帶寬。

數(shù)據(jù)來(lái)源：SK海力士官網(wǎng)、芯八哥整理

乘AI東風(fēng)，HBM需求激增

今年 ChatGPT 引爆全球，AI 相關(guān)需求呈快速增長(zhǎng)態(tài)勢(shì)。據(jù)Bloomberg Intelligence報(bào)告顯示，生成式 AI 市場(chǎng)規(guī)模有望爆發(fā)式增長(zhǎng)，從 2022 年的 400 億美元高速擴(kuò)大至 2032 年的 1.3 萬(wàn)億美元，十年間復(fù)合增速高達(dá) 42%。而 AI 的快速發(fā)展，對(duì)數(shù)據(jù)量和算力的需求也有大幅拉動(dòng)，將拉動(dòng)相關(guān)半導(dǎo)體需求的持續(xù)提升。

TrendForce 最新報(bào)告預(yù)計(jì)，2023年AI服務(wù)器出貨量（含GPU、FPGA、ASIC等）預(yù)估在120萬(wàn)臺(tái)，年增長(zhǎng)率近38%。AI芯片出貨量同步看漲，預(yù)計(jì)今年將增長(zhǎng)50%。報(bào)告稱，目前高端AI服務(wù)器GPU搭載HBM芯片已成主流，預(yù)計(jì)2023年全球HBM需求量將年增近六成，達(dá)到2.9億GB，2024年將再增長(zhǎng)30%。

作為高性能GPU的核心組件，根據(jù)Omdia 數(shù)據(jù)，2020 年全球 HBM 市場(chǎng)規(guī)模為 4.58 億美元，預(yù)計(jì) 2025 年市場(chǎng)規(guī)模將達(dá)到 25 億美元，年復(fù)合增長(zhǎng)率高達(dá) 40.38%。

數(shù)據(jù)來(lái)源：Omdia，芯八哥整理

在ChatGPT等AI浪潮的推動(dòng)下，高端AI芯片紛紛選擇搭載HBM技術(shù)，推升了HBM存儲(chǔ)需求。根據(jù)TrendForce統(tǒng)計(jì)，NVIDIA、AMD、Intel等高端AI芯片中大多選擇搭載HBM。目前NVIDIA的A100及H100各搭載達(dá)80GB的HBM2e及HBM3，在其最新整合CPU及GPU的Grace Hopper芯片中，單顆芯片HBM搭載容量再提升20%，達(dá)96GB。AMD的MI300也搭配HBM3，其中，MI300A容量與前一代相同為128GB，更高端MI300X則達(dá)192GB，提升了50%。

數(shù)據(jù)來(lái)源：NVIDIA官網(wǎng)，AMD官網(wǎng)，芯八哥整理

DRAM原廠主導(dǎo)HBM市場(chǎng)，SK海力士稱王

HBM市場(chǎng)目前由三大DRAM原廠占據(jù)，SK海力士占據(jù)過(guò)半份額。根據(jù)TrendForce統(tǒng)計(jì)，2022年三大原廠HBM市占率分別為SK海力士50%、三星約40%、美光約10%，預(yù)計(jì)2023年SK海力士將受益新世代HBM3產(chǎn)品的量產(chǎn)，其市占率有望提升至53%。

數(shù)據(jù)來(lái)源：TrendForce，芯八哥整理

SK海力士是目前唯一量產(chǎn)HBM3的公司，并向英偉達(dá)大量供貨，配置在英偉達(dá)高性能GPU H100之中，持續(xù)鞏固其市場(chǎng)領(lǐng)先地位。今年4月SK海力士又推出24GB HBM3產(chǎn)品(HBM3E)，容量再度提升且采用更薄的DRAM芯片垂直堆疊，實(shí)現(xiàn)了與16GB產(chǎn)品相同的高度，正被頭部公司爭(zhēng)相申請(qǐng)樣片測(cè)試。據(jù)韓媒Korea Times報(bào)道，三星的HBM3產(chǎn)品預(yù)計(jì)23H2量產(chǎn)，屆時(shí)將追趕SK海力士的市場(chǎng)。美光科技則進(jìn)展相對(duì)較慢，于2020年7月宣布大規(guī)模量產(chǎn)HBM2E，HBM3作為其產(chǎn)品線仍在持續(xù)研發(fā)之中。

2021年的時(shí)候，HBM占整體DRAM市場(chǎng)只有不到1%。主要是因?yàn)镠BM高昂的成本以及當(dāng)時(shí)服務(wù)器市場(chǎng)中搭載相關(guān)AI運(yùn)算卡的比重仍小于1%，且多數(shù)存儲(chǔ)器仍使用GDDR5、GDDR6來(lái)支持其算力。

今年以來(lái)，AI的浪潮愈演愈烈。在ChatGPT帶動(dòng)的AIGC（生成式AI）的熱潮下，大廠們紛紛開(kāi)始推出自己的類ChatGPT的大模型。TrendForce預(yù)測(cè)，到2025年，全球如果等同于ChatGPT的超大型AIGC有5款，類似Midjourney的中型產(chǎn)品有25款，以及80款小型產(chǎn)品，在這個(gè)條件下，上述所需的運(yùn)算資源至少包含145600~233700顆英偉達(dá)A100 GPU。作為高性能GPU的核心組件，HBM今后的存在感或許會(huì)越來(lái)越強(qiáng)。

最新HBM產(chǎn)品消息，BusinessKorea報(bào)道，包括英偉達(dá)、AMD、微軟、亞馬遜在內(nèi)的全球科技巨擘，已依序向SK海力士要求HBM3E樣品。申請(qǐng)樣本是下單前的必要程序，目的是厘清存儲(chǔ)器與客戶的GPU、IC或云端系統(tǒng)是否兼容。據(jù)信，該公司正在為今年下半年準(zhǔn)備 8Gbps HBM3E 產(chǎn)品樣品，并計(jì)劃在明年上半年實(shí)現(xiàn)量產(chǎn)。