HBM的火最近越燒越旺。SK海力士今年5月剛剛推出最新的HBM3E，英偉達、AMD、亞馬遜等巨頭已經在排隊搶樣品了。

英偉達與AMD最新的高端GPU產品H100以及MI300中，都配備了目前最新的HBM3。在AI服務器需求飛漲的檔口，這對老對手正在積極開發下一代高端GPU，兩家都不會放過即將發布的HBM3E。云服務器廠商，如亞馬遜和微軟，為了推出AI服務器，也帶動了HBM 的一大波需求。

HBM的熱度隨著AI的盛行水漲船高，還引起了投資圈的關注，據說開一個HBM的線上會議，能有上萬人預約報名。

爆火的HBM究竟是個啥？為什么大廠們都在搶HBM？HBM的玩家都有誰？能供應得上嗎？

01

HBM是個啥

為什么都在搶

存儲芯片的行情自去年以來一直不好，雖然一直有觸底的聲音，但是今年二季度DRAM和NAND的價格還在進一步下跌，DRAM價格跌幅擴大至18%，NAND擴大至13%。與此同時，據集邦咨詢最新預測，第三季NAND Flash市場仍處于供給過剩，NAND Flash均價預估將續跌3-8%。

在存儲市場慘淡的大背景下，HBM作為DRAM的一種，卻在今年年初漲了5倍。HBM到底是個啥，憑啥逆勢漲價？

HBM（High Bandwidth Memory），意為高帶寬存儲器，是一種面向需要極高吞吐量的數據密集型應用程序的DRAM，常被用于高性能計算、網絡交換及轉發設備等需要高存儲器帶寬的領域，高端GPU是其目前最矚目的應用場合。

HBM的作用類似于數據的“中轉站”，就是將使用的每一幀，每一幅圖像等圖像數據保存到幀緩存區中，等待GPU調用。

HBM與其他DRAM最大的差別就是擁有超高的帶寬。目前最新的HBM3的帶寬最高可以達到819 GB/s，而最新的GDDR6的帶寬最高只有96GB/s，CPU和硬件處理單元的常用的DDR4的帶寬更是只有HBM的1/10。這次被爭搶的SK海力士即將推出的HBM3E，帶寬甚至達到了1TB/s。

HBM能擁有如此大的帶寬，簡單來說，是因為“布局”變了。

HBM的原始形態——GDDR，是獨立封裝，在PCB上圍著處理器轉一圈。而變身后的HBM，則在硅中階層(Silicon Interposer)上疊了起來并和GPU封裝在一起。這樣一來，面積一下子縮小了很多，并且，HBM離GPU更近了，數據傳輸也就更快了。

HBM是怎么疊起來的，可以參考下面這張圖。

HBM將DRAM裸片像摩天大樓一樣垂直堆疊，并通過硅通孔（Through Silicon Via, 簡稱“TSV”）技術將“每層樓”連接在一起，貫通所有芯片層的柱狀通道傳輸信號、指令、電流，以增加吞吐量并克服單一封裝內帶寬的限制。你可以將HBM想象成一個切的整整齊齊的三明治，TSV就是扎在里面的那根牙簽，將整個三明治固定并打通。

疊起來之后，直接結果就是接口變得更寬，其下方互聯的觸點數量遠遠多于DDR內存連接到CPU的線路數量。因此，與傳統內存技術相比，HBM具有更高帶寬、更多I/O數量、更低功耗、更小尺寸。

高帶寬到底有啥魔力，為啥大廠都在搶HBM？

最大的原因，應該是AI服務器需求的爆發。

自ChatGPT爆火之后，國內外大廠爭相競逐AI大模型。而AI大模型的基礎，就是靠海量數據和強大算力來支撐訓練和推理過程。參數量越大，AI模型越智能，最新的GPT-4模型據說有1.76萬億參數量。不過，要想支撐如此龐大的數據處理和傳輸，就要打破“內存墻”。

存儲和處理器并沒有同步發展，過去20年中，硬件的峰值計算能力增加了90,000倍，但是內存/硬件互連帶寬卻只是提高了30倍。當存儲的性能跟不上處理器，對指令和數據的搬運（寫入和讀出）的時間將是處理器運算所消耗時間的幾十倍乃至幾百倍。

可以想象一下，數據傳輸就像處在一個巨大的漏斗之中，不管處理器灌進去多少，存儲器都只能“細水長流”。而數據交換通路窄以及其引發的高能耗，便是通常所說的“內存墻”。

HBM的高帶寬相當于把漏斗中間的通道打得更開，讓數據可以快速流通，面對AI大模型這種動不動千億、萬億的參數，服務器中負責計算的GPU幾乎必須搭載HBM。

目前，高端GPU市場被英偉達和AMD瓜分，兩家尖端的GPU都配備了HBM，最新的H100和MI300X都配備了目前最新的HBM3。

數據來源：NVIDIA官網，AMD官網，芯八哥整理

英偉達將在2024年發布其下一代專為AI和HPC專用的高性能顯卡Hopper-Next ，有消息稱這款GPU將搭載目前尚未量產的HBM3E， 英偉達已經向SK 海力士尋求樣品。據傳AMD、微軟和亞馬遜不甘落后，也在向SK 海力士要HBM3E的樣品。

02

千年老二SK海力士

這次成了第一

大廠們都在爭搶的HBM3E是SK 海力士預計明年量產的最新版HBM，并且，現在市面上最先進的HBM3，目前也只有SK 海力士一家可以量產。

此外，集邦咨詢的數據顯示，2022年三大原廠HBM市占率分別為SK海力士50%、三星約40%、美光約10%。預計到2023年，SK 海力士市占率有望提升至 53%，而三星、美光市占率分別為38%及9%。可以說，在HBM領域，SK海力士是名副其實的老大。

HBM是DRAM的一種，SK 海力士在DRAM領域長年屈居于三星之后，可以說是DRAM界的“千年老二”。為什么在HBM領域，SK海力士突然“翻身當老大”了呢？SK 海力士在發展HBM的過程中，做對了哪些事？

簡單來說，就是找對了方向，第一個用技術打開了市場，又能在關鍵時刻及時調整產能，用數量占據市場。

談SK海力士的反超，還得從另一個“千年老二”AMD開始說起。

早在2009年，AMD就意識到了DDR在未來發展的局限性。除了上文所說的“內存墻”，也就是數據流得很慢；“功耗墻”也是GPU發展的制約，數據從內存轉移到處理器，再從處理器回到內存，一來一回的過程需要擠占功耗，當數據量越來越大，功耗也面臨不夠用的問題。

AMD早早地“預見”到了這點，并且想到了用3D堆疊的方式大幅增加帶寬，于是在2009年就開始著手HBM的研發。

AMD畢竟不是專業做內存的，得找個專業的一起干。

要想實現3D堆疊，連接每一塊DDR的那根“柱子”很重要，也就是TSV硅通孔技術。

來源：Amkor

2011年的時候SK海力士成功研發采用TSV技術的16GB DDR3內存，同年，三星也發布了采用TSV技術的DDR3。最后AMD選擇了SK 海力士，兩家一起研究HBM。

2013年，SK 海力士和AMD終于推出了HBM這項全新的技術，HBM1的工作頻率約為1600 Mbps，漏極電源電壓為1.2V，芯片密度為2Gb（4-hi），其帶寬為4096bit，遠超GDDR5的512bit，帶寬的增加也就很大程度上緩解了“內存墻”的問題。

在功耗方面，GDDR5每瓦功耗的帶寬為10.66GB/秒，而HBM每瓦帶寬超過35GB/秒，每瓦能效提高了3倍，“功耗墻”的問題也在一定程度上被緩解。

SK 海力士第一個站上了HBM的跑道。

雖然具有先發優勢，但由于成本高昂，AMD之后便再次投向GDDR的懷抱，沒有了“用武之地”，HBM暫時冷了下來。

直到2016年，存儲老大三星跳過HBM1，直接量產HBM2，同年，英偉達發布Tesla P100顯卡，內置三星的16GB HBM2顯存，這一下子再將HBM拉回大眾視線。

此后，SK 海力士便開始和三星進行HBM追逐戰。

基本上一家發布新的，半年內另外一家馬上跟上，有時你先，有時我先。就這樣從4GB HBM2，到8GB HBM2，再到HBM2E。

兩家韓廠忙著追趕HBM的時候，另一個巨頭美光還在“自娛自樂”。美光沒有跟著搞HBM，而是和英特爾一起搞出了一個叫HMC（混合內存）的技術，雖然也使用了TSV，但是和HBM完全不同，也完全不兼容。推出后一直響應寥寥，美光在2018年才正式放棄HMC，開始追趕HBM，2020年才推出HBM2，被韓廠拉開了不小的距離。

讓SK 海力士真正超過三星的，是HBM3。

SK海力士早在2021年10月就發布了全球首款HBM3，并于2022年6月正式量產，供貨英偉達。三星雖然在路線圖里顯示2022年HBM3技術已經量產，但是要等到今年下半年才能大規模生產，出現在市場上。也就是說，現在市面上只有SK 海力士有HBM3。

來源：SK 海力士 & Rambus

恰逢天時地利，去年年末ChatGPT橫空出世，帶動了轟轟烈烈的AI大浪潮，并且這股熱潮目前看起來還將持續較長的時間，一下子把HBM這個“冷門”高端內存帶到了需求的中心。要想在AI激戰中活下來，就必須要搶高端GPU，而高端GPU幾乎必備HBM。SK 海力士成為了目前HBM的最大贏家。

不過，下一代的HBM3E將在2024年量產，而三星下一代的HBM3P也將在2024年實現。三星在HBM上咬得很緊，SK 海力士能不能保持住目前的優勢還有待觀察。

除了技術上的領先，SK 海力士可以說是審時度勢第一名。在HBM 的需求被炒熱后不久，就當機立斷地擴產，成為三巨頭里第一個擴產HBM的廠家。

受整個半導體市場行情低迷的影響，以存儲為主要業務的SK 海力士的財報很不好看，今年第一季度虧損3.4023萬億韓元（約合人民幣191.93億元），創近十年之最。在這種慘狀之下，SK 海力士表示今年的投資規模將減少50%或以上。

但是，今年6月初，SK 海力士宣布決定使用最新的尖端 10 納米級第五代 (1b) 技術大幅提高明年的產量，大部分增量將由 HBM3E 填充。此外，有消息稱SK 海力士已著手擴建HBM產線，目標將 HBM產能翻倍，擴產焦點在于HBM3。

靠技術打開市場，并用數量占據市場，SK 海力士鐵了心要靠HBM克服半導體低迷。

03

HBM能供應上嗎？

除了SK 海力士，三星和美光也開啟了HBM的擴產步伐。

SK 海力士：投資1萬億韓元，目標HBM產能翻倍

今年6月有報道指出，SK海力士正在準備投資后段工藝設備，將擴建封裝HBM3的利川工廠，預計到今年年末，后道工藝設備規模將增加近一倍。由于HBM主要是通過垂直堆疊多個DDR來提高數據處理速度，因此只有增加后道設備才能擴大HBM的出貨量。這筆投資金額大約在1萬億韓元（約合人民幣56.41億元）。

此外，SK 海力士宣布決定使用最新的尖端 10 納米級第五代 (1b) 技術大幅提高明年的產量，大部分增量將由 HBM3E 填充。

三星：同樣投資一萬億韓元，下半年量產HBM3

今年7月，三星宣布將投資一萬億韓元在天安工廠展開擴產，該廠主要負責半導體封裝等后道工藝，三星計劃在該廠生產目前正在供應的HBM2和HBM2E等產品，目標明年底之前將 HBM產能提高一倍。此外，三星還計劃于下半年量產8層堆疊HBM3和12層HBM3E。

美光：增加HBM投資

美光已開始向客戶提供HBM3產品樣品，預計這款HBM3產品將于2024年初開始量產，并在2024財年實現可觀的收入。此外，美光決定在中國臺灣增加HBM內存產品組裝和測試能力的投資，以應對人工智能浪潮下該領域出現的強勁需求。

存儲大廠們都在積極擴產HBM，但這樣可以保證HBM的供應嗎？

先從需求端來看，HBM目前仍然主要被應用于高端GPU中，例如英偉達的H100和AMD的MI300，不過谷歌在其TPU中也采用了HBM來構建Bard基礎設施，也可能帶動HBM 的需求。

花旗預期，2023年HBM DRAM需求（1Gb）將達到35億片，較去年增加99％，而2024年將達到102億片，再增191％。

從供應端來看，花旗預計，2023年HBM DRAM供應量（1Gb）將達到31億片，年增長80％，2024年將成長至87億片，年增183％。

雖然大廠們都在積極擴產HBM，但是從預計的供需量來看，供應的增長速度略慢于需求的飛漲。此外，有相關研究單位分析，2023年HBM供需比為-13％，2024年為-15％。近兩年HBM或許仍將處于供不應求的狀態。