2024年3月19日，SK海力士宣布，公司率先成功量產(chǎn)超高性能用于AI的存儲(chǔ)器新產(chǎn)品HBM3E，將在3月末開始向客戶供貨。這是公司去年8月宣布開發(fā)完成HBM3E后，僅隔7個(gè)月取得的成果。

SK海力士表示，繼HBM3，公司實(shí)現(xiàn)了全球首次向客戶供應(yīng)現(xiàn)有DRAM最高性能的HBM3E。將通過成功HBM3E的量產(chǎn)，鞏固在用于AI的存儲(chǔ)器市場(chǎng)上的競爭優(yōu)勢(shì)。

為了實(shí)現(xiàn)一個(gè)需要快速處理大量數(shù)據(jù)的AI系統(tǒng)，芯片封裝必須以多重連接（Multi-connection）多個(gè)人工智能處理器和存儲(chǔ)器的方式進(jìn)行構(gòu)建。因此，近期對(duì)AI擴(kuò)大投資的全球大型科技公司持續(xù)提高對(duì)AI芯片性能的要求。SK海力士堅(jiān)信，HBM3E將成為可滿足這些要求的現(xiàn)有最佳產(chǎn)品。

HBM3E不僅滿足了用于AI的存儲(chǔ)器必備的速度規(guī)格，也在散熱等所有方面都達(dá)到了全球最高水平。此產(chǎn)品在速度方面，最高每秒可以處理1.18TB（太字節(jié)）的數(shù)據(jù)，其相當(dāng)于在1秒內(nèi)可處理230部全高清（Full-HD，F(xiàn)HD）級(jí)電影。

而且，由于用于AI的存儲(chǔ)器必須以極快的速度操作，因此關(guān)鍵在于有效的散熱性能。為此，公司在新產(chǎn)品上適用Advanced MR-MUF**技術(shù)，散熱性能與前一代相比提升了10%。

SK海力士HBM業(yè)務(wù)擔(dān)當(dāng)副社長柳成洙表示，“公司通過全球首次HBM3E投入量產(chǎn)，進(jìn)一步強(qiáng)化了領(lǐng)先用于AI的存儲(chǔ)器業(yè)界的產(chǎn)品線”，還表示，“以至今積累的HBM業(yè)務(wù)成功經(jīng)驗(yàn)為基礎(chǔ)，將進(jìn)一步夯實(shí)與客戶的關(guān)系，并鞏固‘全方位人工智能存儲(chǔ)器供應(yīng)商’的地位。”


三星HBM3e即將通過驗(yàn)證

目前 AI 加速卡除了 CoWoS 封裝瓶頸之外，另一個(gè)重要限制就是 HBM，這其中的主要原因是 HBM 生產(chǎn)周期較 DDR5 更長，投片到產(chǎn)出、封裝完成需要至少 2 個(gè)季度。

英偉達(dá)目前主流 H100 加速卡采用 HBM3 內(nèi)存，主要供應(yīng)商為 SK 海力士，目前無法滿足整體 AI 市場(chǎng)需求。集邦咨詢表示三星于 2023 年年末，以 1Znm 產(chǎn)品加入英偉達(dá)供應(yīng)鏈，盡管比重仍小，但可視為三星在 HBM 領(lǐng)域的重大突破。

由于三星是 AMD 長期以來最重要的策略供應(yīng)伙伴，2024 年第一季，三星 HBM3 產(chǎn)品也陸續(xù)通過 AMD MI300 系列驗(yàn)證，其中包含其 8h 與 12h 產(chǎn)品，故自 2024 年第一季以后，三星 HBM3 產(chǎn)品將會(huì)逐漸放量。

而自 2024 年起，市場(chǎng)關(guān)注焦點(diǎn)即由 HBM3 轉(zhuǎn)向 HBM3e，預(yù)計(jì)下半年將逐季放量，并逐步成為 HBM 市場(chǎng)主流。據(jù) TrendForce 集邦咨詢調(diào)查，第一季由 SK 海力士率先通過驗(yàn)證，美光緊跟其后，并于第一季底開始遞交 HBM3e 量產(chǎn)產(chǎn)品，以搭配計(jì)劃在第二季末鋪貨的 NVIDIA H200。

三星由于遞交樣品的時(shí)程較其他兩家供應(yīng)商略晚，預(yù)計(jì)其 HBM3e 將于第一季末前通過驗(yàn)證，并于第二季開始正式出貨。

韓國企業(yè)壟斷HBM市場(chǎng)

摩根大通近日發(fā)布存儲(chǔ)市場(chǎng)報(bào)告，表示在美光宣布開始大規(guī)模生產(chǎn)用于英偉達(dá)H200的高帶寬存儲(chǔ)器（HBM）后，HBM3E的競爭格局正在加劇。摩根大通預(yù)計(jì)，三星電子及SK海力士HBM3E時(shí)間表與預(yù)期大致相符，并且估計(jì)當(dāng)前HBM市場(chǎng)規(guī)模沒有實(shí)質(zhì)性的變化。

摩根大通對(duì)美光、三星、SK海力士在HBM3E的最新進(jìn)展做了說明。

2月底，美光宣布其24GB 8-Hi HBM3E大規(guī)模生產(chǎn)，并預(yù)計(jì)在2024年第二季度將其應(yīng)用于英偉達(dá)的H200 GPU。該公司進(jìn)一步表示其HBM3E是在lbnm技術(shù)節(jié)點(diǎn)下生產(chǎn)的（三星將lanm和SK海力士將lbnm用于HBM3E），并預(yù)計(jì)在2024年3月出樣36GB 12-Hi HBM3E。

另一方面，三星宣布36GB 12-Hi HBM3E的產(chǎn)品開發(fā)已經(jīng)完成，并計(jì)劃在2024年上半年開始量產(chǎn)，而SK海力士將在2024年第一季度末到第二季度初量產(chǎn)HBM3E。

摩根大通指出，所有內(nèi)存制造商在2024年上半年推出HBM3E解決方案，但該機(jī)構(gòu)估計(jì)SK海力士在HBM3E領(lǐng)域領(lǐng)先，其8-Hi HBM3E最早在2024年第一季度末到第二季度初量產(chǎn)應(yīng)用（而美光在第二季度應(yīng)用于英偉達(dá)H200，三星仍在資格認(rèn)證中）。

在HBM市場(chǎng)份額方面，摩根大通指出，由于美光在2024年第四季度時(shí)的HBM產(chǎn)能僅為約20K wfpm（三星/SK海力士為130K/110K wfpm），美光對(duì)整體HBM市場(chǎng)的影響可能仍然有限。摩根大通預(yù)計(jì)韓國內(nèi)存制造商將繼續(xù)在HBM市場(chǎng)上領(lǐng)先，2024年市場(chǎng)份額分別為SK海力士48%，三星44%，在2025年進(jìn)一步演變?yōu)镾K海力士47%，三星45%的市場(chǎng)份額。

市場(chǎng)規(guī)模方面，摩根大通預(yù)計(jì)HBM內(nèi)存市場(chǎng)規(guī)模（TAM）在2024年將增至128億美元。HBM在2024年將占到DRAM市場(chǎng)的15%，并在2025年進(jìn)一步增至19%。

與英偉達(dá)的GPU推出計(jì)劃（即B100/H200）一致，該機(jī)構(gòu)預(yù)計(jì)2024年和2025年HBM3E對(duì)整體HBM市場(chǎng)的貢獻(xiàn)將分別為42%和58%。相較于HBM3，HBM3E的每比特價(jià)格溢價(jià)為30%或更高，因此HBM3E容量混合的增加將有助于擴(kuò)大HBM市場(chǎng)市場(chǎng)規(guī)模和提升內(nèi)存制造商的利潤狀況。


良率才是關(guān)鍵指標(biāo)

三星電子上個(gè)月意外宣布，將采取“先進(jìn)TC-NCF”技術(shù)。這是一項(xiàng)通過減少TC-NCF方法所必需的薄膜厚度來增加半導(dǎo)體堆疊數(shù)量的同時(shí)保持HBM高度的技術(shù)。

三星推遲HBM芯片生產(chǎn)的因素之一是其決定堅(jiān)持使用非導(dǎo)電薄膜 (NCF) 芯片制造技術(shù)，但該技術(shù)存在生產(chǎn)問題。

最近三星已下了能夠處理MR-MUF技術(shù)的芯片制造設(shè)備的采購訂單。雖然此舉可能被視為與三星之前的做法背道而馳，但它反映了該公司提高HBM芯片生產(chǎn)良率的決心。

分析師估計(jì)，三星目前HBM3芯片生產(chǎn)良率約為10-20%，而SK海力士的HBM3生產(chǎn)良率已達(dá)到60-70%。

有消息稱三星正與日本長瀨電機(jī)等材料制造商洽談采購MR-MUF材料，不過該技術(shù)的高端芯片預(yù)計(jì)要到明年才能量產(chǎn)，因?yàn)槿沁€需要進(jìn)行進(jìn)一步的測(cè)試。

盡管引入了MR-MUF，三星仍計(jì)劃在其最新HBM芯片中同時(shí)采用NCF和MR-MUF技術(shù)。該公司為NCF技術(shù)辯護(hù)，稱它是HBM產(chǎn)品的“最佳解決方案”，并將在其新的HBM3E芯片中使用。三星決定采用MR-MUF凸顯了其在AI芯片市場(chǎng)面臨越來越大的壓力。

SK海力士也在不斷注重研發(fā)，以保持在下一代市場(chǎng)的領(lǐng)先地位。與三星電子不同的是，SK海力士采用了一種名為大規(guī)模回流模塑底部填充（MR-MUF）的方法，其研究重點(diǎn)是改進(jìn)液化材料，這是該工藝的核心。

SK海力士表示：“MR-MUF的成品率取決于進(jìn)入半導(dǎo)體之間的液化材料的特性。迄今為止，我們的主要重點(diǎn)是提高這種材料的完美性。”

據(jù)了解，HBM行業(yè)龍頭SK海力士的HBM良率僅在60%左右。與一般DRAM超過90%的良率相比，這是較低的。與其他存儲(chǔ)器不同的是，需要在半導(dǎo)體上鉆孔并通過硅通孔電極（TSV）垂直堆疊多個(gè)半導(dǎo)體的復(fù)雜附加工藝，因此即使僅在幾個(gè)工藝之一中出現(xiàn)缺陷，其他好的芯片也必須也被丟棄。

即使每個(gè)步驟的產(chǎn)量略有下降或增加，也會(huì)對(duì)整體盈利能力產(chǎn)生重大影響。知情人透露：“隨著未來HBM堆棧數(shù)量的增加，僅僅1%到2%的差異很快就會(huì)導(dǎo)致價(jià)值數(shù)百億韓元的銷售業(yè)績差異。”