成為AI服務器標配，趨勢和需求已明確

HBM的作用類似于數據的[中轉站]，就是將使用的每一幀，每一幅圖像等圖像數據保存到幀緩存區中，等待GPU調用。 

HBM促使DRAM從傳統2D加速走向立體3D，充分利用空間，契合行業小型化、集成化的發展趨勢。 

AIGC技術應用呈現爆發式增長，大模型處理數據的吞吐量更是呈指數級增長。 

ChatGPT已成為史上最快達到1億月活躍用戶的應用，預計至2025年生成式AI所創造的數據可占到已生產數據的10%。 

近期英偉達發布最新一代GH200 Grace Hopper，搭載了全球第一款HBM3e，達到141GB，將不再配備今年春季版本的96GB HBM3。 

HBM價值量的顯著提升也可以體現出當前對存力需求的迫切。 

未來3年的超算算力需求提升將超過10倍，萬億級別的參數量使HBM（高帶寬內存）成為AI服務器的標配。 

此外，HBM的高帶寬相當于把漏斗中間的通道打得更開，讓數據可以快速流通，面對AI大模型這種動不動千億、萬億的參數，服務器中負責計算的GPU幾乎必須搭載HBM。

翻倍增長勢態良好，HBM4是未來共同方向

從HBM的發展趨勢來看，其芯片密度更大，堆疊層數更多，進而帶來容量、帶寬以及連接速率翻倍增長的良好態勢。 

據集邦咨詢預測，2023年HBM需求將同比增長58%，2024年可能進一步增長約30%，未來這個市場規模將達到數十億美元。 

2023年主流需求自HBM2e轉往HBM3，需求比重分別預估約是50%及39%。 

隨著使用HBM3的加速芯片陸續放量，2024年市場需求將大幅轉往HBM3，而2024年將直接超越HBM2e，比重預估達60%。 

全球市場研究機構TrendForce集邦咨詢預測，2023年HBM需求量將年增58%，2024年有望再成長約30%。 

雖然目前還沒有關于HBM4的正式規范，但臺積電在2023 OIP論壇阿姆斯特丹廠上給出了部分制定中的標準。 

臺積電稱，未來HBM4內存的接口位寬將實現翻倍，達到2048 bit。 

按照計劃，這將使HBM4在多種技術層面上實現重大飛躍。

 

為數不多的看好，大廠積極推動HBM技術迭代

·SK海力士：今年5月，SK海力士帶來第五代HBM 3e，預計今年年底前供應樣品，2024年量產，下一代產品HBM4生產時間定在2026年。 

該廠商將把下一代后處理技術[混合鍵合]應用于HBM4產品。 

與現有的[非導電膜]工藝相比，它提高了散熱效率并減少了布線長度，從而實現了更高的輸入/輸出密度。 

三星：為了掌握快速成長的HBM市場，將大幅革新新一代產品制程技術，預計2026年量產新一代HBM產品HBM4。

 

預計2024年接口速度可以提高到7.2Gbps的HBM3p，傳輸速率再提升10%，從而將總帶寬提升到5TB/s以上。 

已開發出9.8Gbps的HBM3E，計劃開始向客戶提供樣品。同時，三星正在開發HBM4，目標2025年供貨。 

并已關注存內計算HBM-PIM，在HBM內存中直接集成計算單元，HBM3-PIM預計在2024年完成開發。 

目前正開發針對高溫熱特性優化的非導電粘合膜（NCF）組裝技與混合鍵合（HCB）等技術，以應用于HBM4產品。 

美光最新的HBM3 Gen 2內存正在向客戶提供樣品，具有1.2 TB/s的聚合帶寬和最高容量的8高堆棧24GB容量，采用1β工藝制造。 

美光在今年5月宣布，已經開始研發第四代HBM，并且計劃在2024年下半年開始量產。 

其HBM4可以支持16個存儲堆棧，每個堆棧有4096位的接口，數據傳輸速率可達12Gbps，從而實現3TB/s的總帶寬。

結尾： 

盡管各大廠商都在努力擴大HBM的產能，但根據預期的供需情況，供應量的增長速度相對需求的增長略顯緩慢。 

據相關研究機構的評估，2023年和2024年的HBM供需比分別為-13%和-15%。這表明，在未來近兩年的時間里，HBM市場可能仍將處于供不應求的狀態。