說起“存儲”和“AI”，很多人會說存儲對AI很重要，因為AI的發(fā)展是由海量數(shù)據(jù)支撐起來的，這就使得人們對數(shù)據(jù)處理提出了極高的要求，需要更大的內存去存儲更多的數(shù)據(jù)，不得不承認，高性能的存儲能讓AI技術發(fā)揮出最大威力。但其實AI對存儲也很重要，AI 時刻推動著存儲的發(fā)展，究其原因繞不開存內計算（PIM ：Processing in-memory）。

存內計算是一項打破傳統(tǒng)馮諾依曼架構的新型運算架構，通過將存儲和計算有機結合，直接利用存儲單元進行計算，極大地消除了數(shù)據(jù)搬移帶來的開銷，解決了傳統(tǒng)芯片在運行人工智能算法上的“存儲墻”與“功耗墻”問題，可以數(shù)十倍甚至百倍地提高人工智能運算效率，降低成本。

雖然存內計算的基本概念早在上個世紀七十年代就已經(jīng)被提出，但直到近些年才逐漸成為人們關注的焦點，原因在于，算力和運算數(shù)據(jù)量的激增導致存儲墻問題愈發(fā)凸顯，想要進一步提高算力，只有解決存儲墻問題，而在各種解決方案中存內計算是最直接的一種方式，可以實現(xiàn)高能效、低功耗、低成本。

早在2019年，美光首席執(zhí)行官 Sanjay Mehrotra 就指出，曾經(jīng)的計算架構并不適合未來的發(fā)展趨勢，從長遠來看認為計算最好在內存中完成。當時美光另一位技術高管也堅信計算和內存的融合對于提高性能效率和降低延遲是必要的，并愿意為此付出努力。不少業(yè)內人士認為，未來存儲器可能不僅僅是存儲設備，還可能是加速器，或者還會具備其他的功能，例如更好的ECC等。

那么，面對數(shù)據(jù)量激增的未來，如何應對內存帶寬挑戰(zhàn)，實現(xiàn)更優(yōu)質的 PIM來減輕各種 AI 驅動所面對的諸如HPC、培訓和推理等工作負載？AI就是一個很好的選擇，隨著技術的演進，越來越多的存儲廠商開始加入AI戰(zhàn)…


AI存儲，百億空間

IDC預測，全球AI（人工智能）市場支出將在2021年達到850億美元，并在2025年增至2,000億美元，五年復合增長率（CAGR）約為24.5%。2025年，全球約8%的AI相關支出將來自于中國市場，市場規(guī)模在全球九個區(qū)域中位列第三。

“十四五”規(guī)劃綱要將“新一代人工智能”作為議題重點提及，加上新基建、數(shù)字經(jīng)濟在內的持續(xù)利好政策的推動，中國AI市場將穩(wěn)步發(fā)展。根據(jù)最新預測，2021年，中國在AI市場的支出規(guī)模將達到82億美元。2021-2025的五年預測期內，中國市場AI相關支出總量將以22%左右的CAGR增長，有望在2025年超過160億美元。

人工智能市場的高速發(fā)展，也帶動了AI存儲的發(fā)展。根據(jù)IDC，從2018年開始，全球AI存儲的年復合增長率高達37%，到2022年，AI存儲的市場規(guī)模將達100億美金。

也就是說，今年AI存儲的市場規(guī)模就將進入百億美金俱樂部了。


AI 時代，存儲比以往更加重要

在 AI 的快速發(fā)展下，數(shù)據(jù)量出現(xiàn)了爆炸式增長，AI 工具也開始在各種不同的、以存儲為中心的應用程序中展開。比如，在 AI 訓練工程中，需要存儲智能分層；亦或者，從更實際的層面上來看，AI 訓練亟待解決在多云環(huán)境下的存儲問題。

為此，人們開始對于數(shù)據(jù)處理的極高需求與底層存儲技術之間的不匹配感越來越強烈。當數(shù)據(jù)增長得越多，在內存和存儲上的數(shù)據(jù)堵塞就越嚴重，人們愈發(fā)希望擴大內存，在 DRAM 上存儲更多數(shù)據(jù)，同時需要保持低時延，不能和 CPU 的運算速度相差太遠。于是，我們看到了來自 AI 對存儲的正向驅動，也了解到企業(yè)對軟件定義存儲有了更大的需求。


AI 激活存儲的隱藏潛力

盡管 AI 時刻在推動存儲發(fā)展，但是想要進一步激活存儲潛力，仍需要解決 AI 場景下，存儲容易面臨的挑戰(zhàn)：

海量小文件，由于訓練任務需要的文件數(shù)量都在幾億到十幾億的量級，所以存儲需要能承載幾十億甚至上百億的文件數(shù)量。同時，由于很多訓練模型都是依賴于圖片、音頻片段、視頻片段文件，而這些文件基本上都是在幾 KB 到幾 MB 之間。

讀多寫少，在大部分場景中，訓練任務只讀取文件，中間很少產(chǎn)生中間數(shù)據(jù)，即使產(chǎn)生了少量的中間數(shù)據(jù)，也是會選擇寫在本地，很少選擇寫回存儲集群。

目錄熱點，由于訓練時，業(yè)務部門的數(shù)據(jù)組織方式不可控，很有可能用戶會將大量文件存放在同一個目錄，容易導致多個計算節(jié)點在訓練過程中，會同時讀取這一批數(shù)據(jù)，這個目錄所在的元數(shù)據(jù)節(jié)點就會成為熱點。

“工欲善其事，必先利其器”，要想發(fā)揮出 AI 人工智能技術的最大威力，解決存儲挑戰(zhàn)就成為企業(yè)構建強有力的 IT 基礎設施的重要一環(huán)。如果沒有高性能的存儲，就會導致整個系統(tǒng)性能出現(xiàn)延遲的情況。

因此 AI 對存儲性能的要求是很苛刻的，企業(yè)希望存儲系統(tǒng)能滿足高吞吐量和低延時的需求，讓更多的數(shù)據(jù)能更及時地傳輸和執(zhí)行，那么對于這個愿望應該如何實現(xiàn)呢？


卡位AI，投資先行

如何最快獲得一項新技術，投資/收購就是極為常見的一種方式，存儲廠商開啟AI投資熱潮大約是在2018年前后，這一年也是人工智能的狂歡年，Google Duplex代替人類自動接打電話、歐盟正式發(fā)布的人工智能道德準則草案、OpenAI的5v5 DOTA AI“Open AI Five”再次完勝人類、全球第一個“AI合成主播”正式上崗…種種一切似乎讓人們意識到，只在小說中存在的AI時代真的要來了。

2018年6月，存儲龍頭三星公布了一項專注于 AI 科技和初創(chuàng)公司的新基金“Samsung NEXT Q Fund ”，將為那些解決AI問題以及使用AI解決計算機科學問題的初創(chuàng)公司提供種子輪和 A 輪融資支持，公告中特別提到，包括的領域涉及模擬學習、場景理解，問題學習方案和人機交互。

到了2018年8月，三星集團宣布，未來三年將在AI、汽車零部件等領域投資逾220億美元，其中大部分投資由三星電子承擔；2021年8月，三星再次公布未來三年會投資240萬億韓元（約合2055億美元）到生物制藥、人工智能、半導體、機器人等領域。從2018年的220億美元，到2021年的2055億美元，十倍的增長，雖然AI并不是三星電子加大投資的惟一領域，但顯然已經(jīng)是被鎖定的新成長領域。

在2018年三星宣布成立新基金后不久，美光也宣布通過美光創(chuàng)投投入一億美元在人工智能及機器學習新創(chuàng)公司，當時消息顯示，投資新創(chuàng)不僅有助于加速人工智能的發(fā)展，還能間接帶動對于DRAM與NAND內存與3D Xpoint等次世代內存的需求。

或許是投資已經(jīng)沒辦法滿足需求，又或許是美光進一步認識到了存內計算的重要性，到了2019年，美光科技直接收購了人工智能硬件和軟件初創(chuàng)公司Fwdnxt，這在當時的行業(yè)內掀起了不小的波瀾。美光認為，F(xiàn)wdnxt的技術與美光的存儲芯片結合使用時，能夠使美光具備探索數(shù)據(jù)分析所需的深度學習AI解決方案的能力，尤其是物聯(lián)網(wǎng)和邊緣計算。

美光方面還表示，收購Fwdnxt不僅不會與英特爾、英偉達等有更多的競爭，相反反而會有更多的合作。在美光看來，沒有人可以在數(shù)據(jù)中心領域與他們競爭，存儲廠商想要分得一杯羹，為英特爾等提供更多幫助，那么在邊緣計算方面進行研究，將會是美光獲得最大效率和規(guī)模經(jīng)濟的地方。

數(shù)據(jù)中心是互聯(lián)網(wǎng)、云計算和人工智能等領域的通用支撐技術，中國信通院《數(shù)據(jù)中心白皮書2022》報告顯示，2021年全球數(shù)據(jù)中心市場規(guī)模超過679億美元，預計2022年市場收入將達到746億美元。而存儲和AI都是數(shù)據(jù)中心不可缺少的重要部分，一方面任何數(shù)據(jù)中心的數(shù)據(jù)最終都要放置到存儲設備上。另一方面，AI能夠幫助數(shù)據(jù)中心提高能源效率，進而節(jié)省成本，還能幫助優(yōu)化運維，使用預測分析來幫助數(shù)據(jù)中心分配工作負載。那么，當數(shù)據(jù)中心的“左膀右臂”結合在一起，勢必會帶來奇效，這或許也是美光收購Fwdnxt的一部分考量。

而在2019年，SK海力士也加入了這場AI投資戰(zhàn)，甚至攻勢十分兇猛。2019年年初，SK海力士投資了地平線；2020年9月，宣布投資Gauss Labs公司，旨在通過工業(yè)人工智能（AI）解決方案引領半導體制造業(yè)創(chuàng)新；2022年1月，SK 海力士又同SK Telecom 以及 SK Square一起宣布，成立聯(lián)合發(fā)展協(xié)會，首先將砸 800 億韓元，在美國設立 AI 半導體公司 SAPEON，SK 海力士持有25%的股份，這對于SK 海力士來說，在 NAND 閃存以及AI領域的事業(yè)也會更進一步擴張。

國產(chǎn)廠商，迎頭趕上

國產(chǎn)廠商，推出類似Pure Storage這樣的AIRI通用AI一體機的不多，但推出AI存儲的廠商就很多了。

比如華為，就專門推出了針對HPDA的OceanStor Pacific系列。

其中高端AI場景，就需要采用Pacific最高端的全閃型號Pacific 9950了。但從華為官網(wǎng)宣傳的規(guī)格看，目前Pacific 9950雖然同時支持以太網(wǎng)和IB，但是最高速率還是100G。

反而國內專門做高性能文件系統(tǒng)的初創(chuàng)公司焱融科技，最近發(fā)布的全閃分布式文件存儲一體機焱融追光 F8000X 系列，率先支持200G IB雙端口，令人眼前一亮。


下一代存儲助攻邊緣AI發(fā)展

將存儲進行異質整合的近存儲運算（Near Memory Computing；NMC）與PIM形成兩大派別，雖然在業(yè)界各有擁護者，但多家存儲大廠多半采取同步進行的雙重布局，其中，近存儲運算的異質整合設計雖然具有較多I/O數(shù)量，但存儲與邏輯芯片進行疊加的設計較為成熟，并可達到節(jié)省連接線及降低功耗的效益。

PIM技術仍處于初期研究階段，至于異質整合則與多家潛在客戶進行合作及討論相關規(guī)格，包含云端AI運算、服務器運算、AI獨角獸等相關客戶，并希望在DRAM芯片進行灌孔設計，類似于讓訊號可以透過灌孔進行對外傳輸，未來希望將導入于邊緣服務器等相關應用。

不同于過去AIoT主要集中于工控客戶，邊緣AI將全面開發(fā)全球軟件及新應用客戶，邊緣AI將是未來5~10年的重要成長動能。

邊緣AI落地需要整合要多方串連，因此必須透過集團力量去符合客戶需求，舉例在AI智能城市的智能電桿，其監(jiān)控環(huán)境功能需搭配參考判斷，也需要高度整合模組進行針對空氣感測、遠端監(jiān)控和標案部分，并加入頻外遠端管理等功能，透過結合軟硬整合、遠端管理及數(shù)據(jù)安全等三大關鍵要素，將可望助力全球客戶加速達成AI最佳化目標。