圖形處理單元（GPU）可能已經成為人工智能領域令人垂涎的硬件，但它們作為最受歡迎組件的地位可能會減弱。

對 GPU 前所未有的需求使 NVIDIA 成為價值數萬億美元的公司。然而，Tenstorrent 首席運營官 Keith Witek 表示，就連 NVIDIA 也開始放棄他們最初創建的圖形芯片。

“他們甚至將其架構轉向異構計算，這看起來更像張量計算機。所以是的，我認為它會朝著這個方向發展。甚至人工智能圖形業務領域的人士也意識到將他們的架構向這個方向發展的好處，”Witek在獨家采訪中告訴AIM 。

他主張采用包含張量單元、圖形單元和 CPU 的片上系統 (SoC) 架構，并聲稱利用 CPU 和圖形處理器的異構計算是處理未來工作負載的最佳方法。

最近，NVIDIA 最大的企業客戶之一的微軟和 AWS 等大型科技公司開發了自己的 AI 芯片，以減少對 NVIDIA GPU 的依賴，同時降低成本。

在最近舉行的 Google I/O 2024 上，這家科技巨頭宣布推出 Trillium TPU，這是其第六代芯片，旨在更有效地處理人工智能工作負載。

有趣的是，AWS、微軟和谷歌設計的芯片也有異構架構。例如，Azure Maia AI Accelerator 和 Azure Cobalt CPU 在同一芯片上集成了不同的專用計算引擎和加速器。

同樣，AWS Inferentia 和 Trainium 也在同一芯片上集成了不同的專用計算引擎和加速器。

然而，這些芯片主要供內部使用。另一方面，Tenstorrent 將其芯片出售給企業客戶，使其與 NVIDIA 形成直接競爭。


NPU和異構計算更適用于生成式AI

首先來說一說NPU。NPU也叫神經網絡處理器， 這是一種專門設計用于加速深度學習任務和機器學習算法的處理器。深度學習是AI的一個分支，在機器學習中占據核心地位，它在處理圖像識別、語音識別、自然語言處理等神經網絡模型場景時發揮著重要作用，而NPU能夠顯著加速深度學習模型的推理和訓練過程，另外NPU有更高的能效比，更適用于邊緣計算設備和移動終端。

異構計算是指在一個計算系統中使用不同類型的處理器或者計算單元來協同完成計算任務的技術，這些單元包括CPU、GPU、以及如NPU這樣的專用加速器。它的目的在于通過結合不同處理器的優勢，來提高系統的整體性能、效率和適應各種復雜計算場景的能力，同時解決單一架構在功耗、散熱等方面的局限性。

簡單地說，就是通過異構計算將生成式AI任務中不同類型的計算任務分配給最適合的計算單元。例如，面對豐富的生成式AI用例，CPU適用于需要低時延的應用場景，或者相對較小的傳統模型，如卷積神經網絡模型（CNN），以及一些特定的大語言模型（LLM）；GPU擅長面向高精度格式的并行處理，比如對畫質要求非常高的圖像以及視頻處理；在持續型用例中，需要以低功耗實現持續穩定的高峰值性能，NPU可以發揮其最大優勢。

那么NPU和異構計算會更適用于生成式AI嗎？

答案是肯定的。實際上，生成式AI涉及大量的數據處理和復雜的計算任務，尤其是深度學習模型的訓練和推理。

這些任務對計算資源的要求極高，單獨依靠傳統的CPU或GPU可能無法滿足性能要求。NPU專為神經網絡計算設計，能夠模擬人類神經元和突觸的工作方式，對AI計算涉及的大量神經網絡模型進行特殊優化，從而提高處理效率和降低能耗。

其次，異構計算的出現進一步提升了生成式AI的計算能力。異構計算通過整合不同架構的計算單元（如CPU、GPU、NPU等），使它們能夠并行工作，從而充分發揮各自的優勢。

此外，隨著生成式AI應用的不斷擴展和復雜化，對算力的需求也在持續增長。NPU和異構計算的結合能夠更好地滿足這種需求，以高通為例，CPU、GPU等計算單元每年都有迭代，并且每一次迭代都會帶來巨大的性能升級，推動生成式AI技術的進一步發展和應用。


AI算力競賽，巨頭加碼，誰主沉浮

AI芯片可是AI發展的核心動力，沒了它，就別想實現真正的智能化?，F在各大科技巨頭都在狂砸資金研發AI芯片，可謂是不遺余力啊。

比如說英偉達，作為顯卡之王，它們家的GPU可是AI訓練的利器。最新的H100就集成了超過8萬億晶體管，算力爆表，專門為大規模AI模型量身定制。再比如谷歌的TPU，憑借定制化設計，在推理加速方面效率極高。

英特爾、AMD這些傳統芯片巨頭也在加緊部署，紛紛推出面向AI優化的CPU和GPU產品線。就連蘋果、亞馬遜這些公司，也在AI芯片領域布局。

這些巨頭們可都不是吃素的，各自都有自家的拳頭產品和技術優勢。比如異構計算架構、專用AI加速器、先進制程工藝等等，都是提升AI算力的法寶。誰能在這場算力大戰中脫穎而出，將主導AI的未來發展方向，實在令人期待啊。

說到這些科技巨頭在AI芯片領域的布局，你可能會好奇:他們都推出了啥拳頭產品??？

咱先說說英偉達吧。作為顯卡一哥，它家的GPU可是AI訓練的利器。最新的H100芯片集成了超過80億晶體管，算力爆表，就是為大規模AI模型量身定制的。

再看看谷歌的TPU吧，這可是推理加速的專業戶。通過定制化設計，在推理效率上遠超同類產品。

英特爾和AMD這些老牌芯片巨頭也不甘示弱。英特爾的Ponte Vecchio就是專門針對AI優化的高性能GPU；AMD的InstinctMI200則融合了CPU、GPU和矩陣引擎，異構計算架構提升了AI算力。

就連蘋果和亞馬遜這些公司，也在AI芯片領域躍躍欲試呢。蘋果的M系列芯片就內置了神經網絡加速器；亞馬遜的Inferentia則是推理專用芯片，在云端AI服務中大顯身手。

各自都有自家的拳頭產品和技術優勢，比如異構架構、專用AI加速器、先進制程工藝等等，都是提升AI算力的法寶。誰能在這場算力大戰中脫穎而出，將主導AI的未來發展方向，實在令人期待啊。