成為AI服務(wù)器標(biāo)配，趨勢和需求已明確

HBM的作用類似于數(shù)據(jù)的[中轉(zhuǎn)站]，就是將使用的每一幀，每一幅圖像等圖像數(shù)據(jù)保存到幀緩存區(qū)中，等待GPU調(diào)用。 

HBM促使DRAM從傳統(tǒng)2D加速走向立體3D，充分利用空間，契合行業(yè)小型化、集成化的發(fā)展趨勢。 

AIGC技術(shù)應(yīng)用呈現(xiàn)爆發(fā)式增長，大模型處理數(shù)據(jù)的吞吐量更是呈指數(shù)級增長。 

ChatGPT已成為史上最快達(dá)到1億月活躍用戶的應(yīng)用，預(yù)計至2025年生成式AI所創(chuàng)造的數(shù)據(jù)可占到已生產(chǎn)數(shù)據(jù)的10%。 

近期英偉達(dá)發(fā)布最新一代GH200 Grace Hopper，搭載了全球第一款HBM3e，達(dá)到141GB，將不再配備今年春季版本的96GB HBM3。 

HBM價值量的顯著提升也可以體現(xiàn)出當(dāng)前對存力需求的迫切。 

未來3年的超算算力需求提升將超過10倍，萬億級別的參數(shù)量使HBM（高帶寬內(nèi)存）成為AI服務(wù)器的標(biāo)配。 

此外，HBM的高帶寬相當(dāng)于把漏斗中間的通道打得更開，讓數(shù)據(jù)可以快速流通，面對AI大模型這種動不動千億、萬億的參數(shù)，服務(wù)器中負(fù)責(zé)計算的GPU幾乎必須搭載HBM。

翻倍增長勢態(tài)良好，HBM4是未來共同方向

從HBM的發(fā)展趨勢來看，其芯片密度更大，堆疊層數(shù)更多，進(jìn)而帶來容量、帶寬以及連接速率翻倍增長的良好態(tài)勢。 

據(jù)集邦咨詢預(yù)測，2023年HBM需求將同比增長58%，2024年可能進(jìn)一步增長約30%，未來這個市場規(guī)模將達(dá)到數(shù)十億美元。 

2023年主流需求自HBM2e轉(zhuǎn)往HBM3，需求比重分別預(yù)估約是50%及39%。 

隨著使用HBM3的加速芯片陸續(xù)放量，2024年市場需求將大幅轉(zhuǎn)往HBM3，而2024年將直接超越HBM2e，比重預(yù)估達(dá)60%。 

全球市場研究機(jī)構(gòu)TrendForce集邦咨詢預(yù)測，2023年HBM需求量將年增58%，2024年有望再成長約30%。 

雖然目前還沒有關(guān)于HBM4的正式規(guī)范，但臺積電在2023 OIP論壇阿姆斯特丹廠上給出了部分制定中的標(biāo)準(zhǔn)。 

臺積電稱，未來HBM4內(nèi)存的接口位寬將實現(xiàn)翻倍，達(dá)到2048 bit。 

按照計劃，這將使HBM4在多種技術(shù)層面上實現(xiàn)重大飛躍。

 

為數(shù)不多的看好，大廠積極推動HBM技術(shù)迭代

·SK海力士：今年5月，SK海力士帶來第五代HBM 3e，預(yù)計今年年底前供應(yīng)樣品，2024年量產(chǎn)，下一代產(chǎn)品HBM4生產(chǎn)時間定在2026年。 

該廠商將把下一代后處理技術(shù)[混合鍵合]應(yīng)用于HBM4產(chǎn)品。 

與現(xiàn)有的[非導(dǎo)電膜]工藝相比，它提高了散熱效率并減少了布線長度，從而實現(xiàn)了更高的輸入/輸出密度。 

三星：為了掌握快速成長的HBM市場，將大幅革新新一代產(chǎn)品制程技術(shù)，預(yù)計2026年量產(chǎn)新一代HBM產(chǎn)品HBM4。

 

預(yù)計2024年接口速度可以提高到7.2Gbps的HBM3p，傳輸速率再提升10%，從而將總帶寬提升到5TB/s以上。 

已開發(fā)出9.8Gbps的HBM3E，計劃開始向客戶提供樣品。同時，三星正在開發(fā)HBM4，目標(biāo)2025年供貨。 

并已關(guān)注存內(nèi)計算HBM-PIM，在HBM內(nèi)存中直接集成計算單元，HBM3-PIM預(yù)計在2024年完成開發(fā)。 

目前正開發(fā)針對高溫?zé)崽匦詢?yōu)化的非導(dǎo)電粘合膜（NCF）組裝技與混合鍵合（HCB）等技術(shù)，以應(yīng)用于HBM4產(chǎn)品。 

美光最新的HBM3 Gen 2內(nèi)存正在向客戶提供樣品，具有1.2 TB/s的聚合帶寬和最高容量的8高堆棧24GB容量，采用1β工藝制造。 

美光在今年5月宣布，已經(jīng)開始研發(fā)第四代HBM，并且計劃在2024年下半年開始量產(chǎn)。 

其HBM4可以支持16個存儲堆棧，每個堆棧有4096位的接口，數(shù)據(jù)傳輸速率可達(dá)12Gbps，從而實現(xiàn)3TB/s的總帶寬。

結(jié)尾： 

盡管各大廠商都在努力擴(kuò)大HBM的產(chǎn)能，但根據(jù)預(yù)期的供需情況，供應(yīng)量的增長速度相對需求的增長略顯緩慢。 

據(jù)相關(guān)研究機(jī)構(gòu)的評估，2023年和2024年的HBM供需比分別為-13%和-15%。這表明，在未來近兩年的時間里，HBM市場可能仍將處于供不應(yīng)求的狀態(tài)。