說起“存儲”和“AI”，很多人會說存儲對AI很重要，因為AI的發展是由海量數據支撐起來的，這就使得人們對數據處理提出了極高的要求，需要更大的內存去存儲更多的數據，不得不承認，高性能的存儲能讓AI技術發揮出最大威力。但其實AI對存儲也很重要，AI 時刻推動著存儲的發展，究其原因繞不開存內計算（PIM ：Processing in-memory）。

存內計算是一項打破傳統馮諾依曼架構的新型運算架構，通過將存儲和計算有機結合，直接利用存儲單元進行計算，極大地消除了數據搬移帶來的開銷，解決了傳統芯片在運行人工智能算法上的“存儲墻”與“功耗墻”問題，可以數十倍甚至百倍地提高人工智能運算效率，降低成本。

雖然存內計算的基本概念早在上個世紀七十年代就已經被提出，但直到近些年才逐漸成為人們關注的焦點，原因在于，算力和運算數據量的激增導致存儲墻問題愈發凸顯，想要進一步提高算力，只有解決存儲墻問題，而在各種解決方案中存內計算是最直接的一種方式，可以實現高能效、低功耗、低成本。

早在2019年，美光首席執行官 Sanjay Mehrotra 就指出，曾經的計算架構并不適合未來的發展趨勢，從長遠來看認為計算最好在內存中完成。當時美光另一位技術高管也堅信計算和內存的融合對于提高性能效率和降低延遲是必要的，并愿意為此付出努力。不少業內人士認為，未來存儲器可能不僅僅是存儲設備，還可能是加速器，或者還會具備其他的功能，例如更好的ECC等。

那么，面對數據量激增的未來，如何應對內存帶寬挑戰，實現更優質的 PIM來減輕各種 AI 驅動所面對的諸如HPC、培訓和推理等工作負載？AI就是一個很好的選擇，隨著技術的演進，越來越多的存儲廠商開始加入AI戰…

卡位AI，投資先行

如何最快獲得一項新技術，投資/收購就是極為常見的一種方式，存儲廠商開啟AI投資熱潮大約是在2018年前后，這一年也是人工智能的狂歡年，Google Duplex代替人類自動接打電話、歐盟正式發布的人工智能道德準則草案、OpenAI的5v5 DOTA AI“Open AI Five”再次完勝人類、全球第一個“AI合成主播”正式上崗…種種一切似乎讓人們意識到，只在小說中存在的AI時代真的要來了。

2018年6月，存儲龍頭三星公布了一項專注于 AI 科技和初創公司的新基金“Samsung NEXT Q Fund ”，將為那些解決AI問題以及使用AI解決計算機科學問題的初創公司提供種子輪和 A 輪融資支持，公告中特別提到，包括的領域涉及模擬學習、場景理解，問題學習方案和人機交互。

到了2018年8月，三星集團宣布，未來三年將在AI、汽車零部件等領域投資逾220億美元，其中大部分投資由三星電子承擔；2021年8月，三星再次公布未來三年會投資240萬億韓元（約合2055億美元）到生物制藥、人工智能、半導體、機器人等領域。從2018年的220億美元，到2021年的2055億美元，十倍的增長，雖然AI并不是三星電子加大投資的惟一領域，但顯然已經是被鎖定的新成長領域。

在2018年三星宣布成立新基金后不久，美光也宣布通過美光創投投入一億美元在人工智能及機器學習新創公司，當時消息顯示，投資新創不僅有助于加速人工智能的發展，還能間接帶動對于DRAM與NAND內存與3D Xpoint等次世代內存的需求。

或許是投資已經沒辦法滿足需求，又或許是美光進一步認識到了存內計算的重要性，到了2019年，美光科技直接收購了人工智能硬件和軟件初創公司Fwdnxt，這在當時的行業內掀起了不小的波瀾。美光認為，Fwdnxt的技術與美光的存儲芯片結合使用時，能夠使美光具備探索數據分析所需的深度學習AI解決方案的能力，尤其是物聯網和邊緣計算。

美光方面還表示，收購Fwdnxt不僅不會與英特爾、英偉達等有更多的競爭，相反反而會有更多的合作。在美光看來，沒有人可以在數據中心領域與他們競爭，存儲廠商想要分得一杯羹，為英特爾等提供更多幫助，那么在邊緣計算方面進行研究，將會是美光獲得最大效率和規模經濟的地方。

數據中心是互聯網、云計算和人工智能等領域的通用支撐技術，中國信通院《數據中心白皮書2022》報告顯示，2021年全球數據中心市場規模超過679億美元，預計2022年市場收入將達到746億美元。而存儲和AI都是數據中心不可缺少的重要部分，一方面任何數據中心的數據最終都要放置到存儲設備上。另一方面，AI能夠幫助數據中心提高能源效率，進而節省成本，還能幫助優化運維，使用預測分析來幫助數據中心分配工作負載。那么，當數據中心的“左膀右臂”結合在一起，勢必會帶來奇效，這或許也是美光收購Fwdnxt的一部分考量。

而在2019年，SK海力士也加入了這場AI投資戰，甚至攻勢十分兇猛。2019年年初，SK海力士投資了地平線；2020年9月，宣布投資Gauss Labs公司，旨在通過工業人工智能（AI）解決方案引領半導體制造業創新；2022年1月，SK 海力士又同SK Telecom 以及 SK Square一起宣布，成立聯合發展協會，首先將砸 800 億韓元，在美國設立 AI 半導體公司 SAPEON，SK 海力士持有25%的股份，這對于SK 海力士來說，在 NAND 閃存以及AI領域的事業也會更進一步擴張。



AI對存儲提出了新的要求

在談及AI時代下的新型存儲產品，首先要了解AI的到來，對存儲技術提出了哪些新的需求。

華邦電子是中國臺灣最大的DRAM廠商，同時他們也是全球SPI NOR Flash的主要供應商之一，專注于利基型 DRAM 和 NOR Flash 等存儲業務的他們，對于AI時代的到來有著更為深刻的理解。

華邦電子DRAM產品營銷部經理曾一峻在接受半導體行業觀察的采訪時提到：“最初行業認為AI將發生在云端，但是在接下來兩年中，邊緣計算則更加盛行。究其原因，物聯網設備數據量的增多，使得云端數據處理的負荷過大，因而，數據處理開始向邊緣計算轉移。在這個過程當中，就需要RAM來提供支持，但邊緣端無法像云端那樣可以把存儲器無限制地擴張，所以需要對AI網絡模型進行壓縮。”

“目前市場上有很多工具可以對AI模型進行壓縮，甚至可以控制在10MB以下，在這樣的情況下Micro Controller就可以利用這樣的很小型神經網絡做AI運算。”曾一峻指出：“當然，Micro Controller里面不會配置擁有高容量的SRAM，因為成本太高。所以它就會采用外掛內存的處理方式。

AI時代同樣對于閃存產品有著新的要求，而對于閃存產品來說，終端用戶永遠都會期待閃存產品擁有以下三個優點，即PCB占地小，成本低，組合多樣化。

多種技術架構待產學研共同探索

面向智能化時代的算力需求和計算服務業態變革，英特爾、三星等IDM廠商和新銳的算力芯片廠商都在探索存算一體芯片，并衍生出不同的架構和技術路線。

劉洪杰表示，目前全球存算一體仍處于蓬勃發展階段，沒有一種技術架構占據絕對主導地位。2017年，第一批存內計算公司興起，目前存內計算中有一些技術已經可以落地，需要產業界加大投入，研發質量過關的產品。

“存內計算本身也有一個類似摩爾定律的發展過程，包括代工廠針對存內計算專用的工藝提升。其次是先進的材料，目前能夠量產的存內計算存儲器中，Flash和SRAM新型存儲器更適合做存內計算，需要更多在新型存儲器件上的研究。另外，存內計算從算法到供應鏈生態上也需要產學研結合，相互融合促進發展。” 劉洪杰說。

作為多年來DRAM市場份額的冠軍，三星于2021年推出了結合DRAM的高帶寬內存-內存內處理 (HBM-PIM)，將AI計算能力引入內存。通過將經過DRAM優化的 AI 引擎置于每個存儲子單元內，將處理能力直接引入到數據的存儲位置，從而實現并行處理并盡可能減少數據移動。相較三星此前的高帶寬內存方案，新架構能夠提供超過兩倍的系統性能，并降低 70% 以上的能耗。

英特爾的神經擬態計算芯片Loihi也采用了存算一體的架構，使之更加容易擴展。Loihi芯片的裸片包含128個小核，每個核里面模擬1024個神經元的計算結構，每個神經元又有1000個突觸連接，這意味著768個芯片連接起來可以構建接近1億神經元的系統。

國內聚焦存算一體芯片的企業則大多采用SRAM（靜態隨機存取存儲器）和Flash路線。

九天睿芯基于“模擬特征提取+模數混合電荷域SRAM”架構實現存內計算，第一顆感存算一體芯片ADA100于2021年回片。后摩智能第一代芯片基于SRAM、第二代芯片基于PRAM。蘋芯科技的兩款產品也基于28nm SRAM。

知存科技主要采用嵌入式Flash工藝，于2020年發布第一代存算一體芯片產品WTM1001，2022年實現存算一體SoC芯片WTM2101量產并落地應用。

“近年來，隨著新興非易失存儲器的發展，國內開始出現做存算一體大算力的公司，同時不斷有新玩家涌入。但距離大規模應用，還有約10年的時間，從工藝、材料、算法、工具鏈到生態，都需要產業界和學術界的不斷投入與共同推進。”王紹迪說。



寫在最后

AI從概念被提出來開始就似乎是一個“萬金油”般的存在，5G需要AI、元宇宙需要AI、自動駕駛需要AI，甚至于連EDA都需要AI。如今，AI又已經“滲入”存儲芯片領域，各大存儲廠商為此展現出“十八般武藝”，但未來誰能成為拔得頭籌者，我們拭目以待。