高帶寬內(nèi)存（HBM）是支持人工智能（Generative AI）的關(guān)鍵，隨著高帶寬內(nèi)存（HBM）成為下一代內(nèi)存半導(dǎo)體的主戰(zhàn)場，三星電子（Samsung Electronics）和美光（Micron）之間正在醞釀激烈的競爭，以搶奪目前由SK hynix壟斷的Nvidia訂單。

11 月 28 日，臺灣市場研究公司 TrendForce 預(yù)測，Nvidia 將在下個月完成對三星電子 HBM3 的驗證。業(yè)內(nèi)人士認為，三星電子目前正在向 Nvidia 供應(yīng) HBM3 樣品，根據(jù)下個月的驗證結(jié)果，三星電子可能會與 Nvidia 簽訂正式合同。

Nvidia 的圖形處理器（GPU），尤其是高端的 H100 型號，是高價值產(chǎn)品，每個售價為 6000 萬韓元。這種高利潤率使 Nvidia 有可能改變存儲器半導(dǎo)體行業(yè)的游戲規(guī)則。作為 HBM 市場的領(lǐng)導(dǎo)者，SK hynix 從去年開始向 Nvidia 獨家供應(yīng) HBM3，領(lǐng)先于三星電子。此舉幫助 SK hynix 縮小了與 DRAM 市場領(lǐng)導(dǎo)者三星的市場份額差距 4.4 個百分點。受 HBM 和 DDR5 等高價值產(chǎn)品業(yè)績的提振，SK hynix 的 DRAM 業(yè)務(wù)在今年第三和第四季度扭虧為盈。

由于美國內(nèi)存芯片制造商美光（Micron）將于明年量產(chǎn)第五代 HBM3E 產(chǎn)品，業(yè)界預(yù)計 HBM 領(lǐng)域?qū)⑷姹l(fā) "三國殺"。預(yù)計這三家公司將展開激烈競爭，爭奪 Nvidia 即將推出的 H200 和 B100 人工智能半導(dǎo)體所需的 HBM3E 供貨。

據(jù)報道，隨著Nvidia計劃將其HBM供應(yīng)商多元化，以提高供應(yīng)鏈管理效率，SK hynix的單打獨斗可能會結(jié)束，迎來一個無限競爭的時代。根據(jù)TrendForce的數(shù)據(jù)，從7月份的美光開始，到8月份的SK hynix和10月份的三星電子，三家公司都提供了HBM3E樣品。考慮到 Nvidia 通常需要六個月左右的時間來驗證 HBM 樣品，預(yù)計供應(yīng)量的輪廓將在明年出現(xiàn)。


AI巨頭擴大HBM采購

ChatGPT熱潮除將GPU等AI大算力芯片推向高峰之外，也極大帶動了市場對新一代內(nèi)存芯片HBM的需求。7月26日SK海力士發(fā)布第二季度財務(wù)報告，盡管整體出現(xiàn)虧損，但HBM3和DDR5 DRAM等高端產(chǎn)品銷售增加，第二季度營業(yè)收入比第一季度增加44%，營業(yè)虧損減少15%。三星和美光也表示，HBM在銷售額中開始占據(jù)更大份額。

事實上，目前全球各大AI巨頭包括英偉達、AMD、微軟和亞馬遜等均已開始加大HBM采購，并將HBM3E作為其采購的重點。這一舉措被視為在新一輪AI大戰(zhàn)中搶占先機，以應(yīng)對日益激烈的市場競爭。

英偉達作為全球領(lǐng)先的GPU制造商，其H100、A100已廣泛應(yīng)用于AI服務(wù)器和數(shù)據(jù)中心。在面對AI應(yīng)用日益增長的挑戰(zhàn)下，英偉達加大HBM3E的采購量，旨在為其GPU提供更高性能和更快的數(shù)據(jù)傳輸速率，以滿足AI計算的需求。

AMD最近發(fā)布下一代GPU MI300X。MI300X面向大語言模型（LLM）優(yōu)化，可以支持400億個參數(shù)的Hugging Face AI 模型運行。在存儲方面，MI300X采用192GB的HBM3內(nèi)存、5.2TB/秒的帶寬和896GB/秒的Infinity Fabric 帶寬。為了提高其GPU在AI應(yīng)用中的競爭力，AMD將加大對HBM3E的采購量，以進一步提升其產(chǎn)品的性能和效率。

亞馬遜和微軟則是云服務(wù)領(lǐng)域的兩大巨頭。在大模型熱潮下，兩家公司也大幅增加投資，優(yōu)先引入生成式AI技術(shù)。亞馬遜近期投資1億美元建立人工智能創(chuàng)新中心。微軟旗下的Azure云服務(wù)則擴大與ChatGPT開發(fā)商OpenAI的合作關(guān)系。

從發(fā)布的數(shù)據(jù)來看，HBM3E與HBM3相比，傳輸速度提升25%，從原來的6.4GT/s提升至8.0GT/s，從而將顯存的帶寬提升至1TB/s。SK 海力士將采用最新的10納米級（1b） 技術(shù)進行HBM3E的量產(chǎn)。各大AI巨頭積極向HBM供應(yīng)商SK海力士以及三星訂購HBM3E，以滿足不斷增長的市場需求。

HBM需求暴漲

在人工智能浪潮下，市場需求持續(xù)激增，HBM 技術(shù)成為人們關(guān)注的焦點。全球市場研究公司集邦咨詢預(yù)計，2023 年 HBM 需求將同比增長 58%，2024 年可能進一步增長約 30%。

HBM 相比較傳統(tǒng) DRAM 具有高帶寬、高容量、低延遲、低功耗等優(yōu)勢，特別適合 ChatGPT 等高性能計算場景。目前在 HBM3 研發(fā)最前沿的是 SK 海力士和三星兩家公司，英偉達的 H100 / H800、AMD 的 MI300 系列 AI 加速卡均采用 HBM3。

SK 海力士和三星預(yù)計將在 2024 年第一季度提供 HBM3e 樣品。另一方面，美國內(nèi)存公司美光正在繞過 HBM3，直接追求 HBM3e。

HBM3e 將采用 24Gb 單晶芯片堆棧，并采用 8 層 (8Hi) 配置，單個 HBM3e 芯片的容量將飆升至 24GB。HBM3e 預(yù)計將在 2025 年納入 NVIDIA 的 GB100，導(dǎo)致三大 OEM 計劃在 2024 年第一季度發(fā)布 HBM3e 樣品，并在下半年進入量產(chǎn)。

除了 HBM3 和 HBM3e 之外，最新的更新表明存儲巨頭正在計劃推出下一代 HBM——HBM4。

雖然 HBM4 有望取得重大突破，但仍有一段路要走，因此現(xiàn)在討論其實際應(yīng)用和廣泛采用還為時過早。業(yè)內(nèi)專家強調(diào)，目前 HBM 市場以 HBM2e 為主。然而，HBM3 和 HBM3e 有望在不久的將來占據(jù)領(lǐng)先地位。

集邦咨詢預(yù)計，2023 年主流需求將從 HBM2e 轉(zhuǎn)向 HBM3，預(yù)計需求占比分別約為 50% 和 39%。隨著更多基于 HBM3 的加速器芯片進入市場，需求將在 2024 年大幅轉(zhuǎn)向 HBM3，超過 HBM2e，預(yù)計占據(jù) 60% 的市場份額。


多國積極拓展，產(chǎn)業(yè)界仍需冷靜

隨著HBM技術(shù)的價值被發(fā)掘，目前各主要芯片制程廠商均在積極布局。其中臺積電正大舉擴充SolC系統(tǒng)整合單芯片產(chǎn)能，正向設(shè)備廠積極追單，預(yù)計今年底的月產(chǎn)能約1900片，明年將達到逾3000片，2027年有機會提升到7000片以上。值得注意的是，臺積電SolC是業(yè)界第一個高密度3D小芯片堆疊技術(shù)，公司擴產(chǎn)此舉主要意在應(yīng)對AI等領(lǐng)域的旺盛需求。

此外據(jù)報道，SK海力士已開始招聘邏輯芯片 (如CPU、GPU) 設(shè)計人員，計劃將HBM4通過3D堆疊直接集成在芯片上。SK海力士正與英偉達等多家半導(dǎo)體公司討論這一新集成方式。據(jù)SK海力士預(yù)測，HBM市場到2027年將出現(xiàn)82%的復(fù)合年增長率。

截至2022年，HBM市場主要被全球前三大DRAM廠商占據(jù)，其中海力士HBM市占率為50%，三星的市占率約40%、美光的市占率約10%。

與此同時，國內(nèi)相關(guān)廠商則主要處于HBM上游設(shè)備和材料供應(yīng)環(huán)節(jié)。其中，華海誠科2023年8月投資者關(guān)系活動記錄顯示，公司的顆粒狀環(huán)氧塑封料(GMC)可以用于HBM的封裝，相關(guān)產(chǎn)品已通過客戶驗證，現(xiàn)處于送樣階段。截至11月20日，公司股價11月以來已經(jīng)翻兩倍。

此外，聯(lián)瑞新材的部分客戶是全球知名的GMC供應(yīng)商，他們需要使用顆粒封裝材料來提升封裝高度和滿足散熱需求。據(jù)海力士公開披露，球硅和球鋁是升級HBM的關(guān)鍵材料。而聯(lián)瑞新材也已開始配套生產(chǎn)HBM所用的球硅和球鋁。

因此，雖然眼下HBM的市場基本被海外巨頭所占據(jù)。但隨著ChatGPT的AI大模型問世，百度、阿里、科大訊飛、商湯、華為等科技巨頭紛紛要訓(xùn)練自己的AI大模型，AI服務(wù)器的需求大幅度激增。這也意味著，芯片儲存的自主可控仍是當(dāng)下產(chǎn)業(yè)發(fā)展的重要方向。所以在未來HBM國產(chǎn)化也將成為大的發(fā)展趨勢。

但值得注意的是，HBM 雖好但國內(nèi)產(chǎn)業(yè)界仍需冷靜對待。這是因為HBM 現(xiàn)在依舊處于相對早期的階段，其未來還有很長的一段路要走。但可預(yù)見的是，隨著人工智能產(chǎn)業(yè)的迅速發(fā)展以及相關(guān)技術(shù)的頻繁迭代，內(nèi)存產(chǎn)品設(shè)計的復(fù)雜性注定會快速上升，并對帶寬提出了更高的要求，進而不斷上升的寬帶需求將持續(xù)驅(qū)動 HBM 發(fā)展。

而對于該產(chǎn)業(yè)在二級市場的發(fā)展，中銀國際方面則表示，伴隨AI大模型訓(xùn)練的不斷推進，HBM作為關(guān)鍵性技術(shù)，其增長確定性極高，相關(guān)投資機會有望集中在封裝設(shè)備材料及國產(chǎn)HBM配套供應(yīng)。