一個季度賺了123億美元的英偉達，現在成了許多半導體企業艷羨的對象，大家頭一回發現，原來GPU利潤這么高，甚至能撐起2萬億美元的市值，但英偉達真的會滿足于此嗎？

英偉達CEO黃仁勛曾在2008年發表過感言，認為公司應該把研究客戶的需求，把解決客戶的問題放在第一位，而不是去關注對手，如果把精力放在如何從對手那里把客戶搶過來，就會錯失開拓新客戶的機會。

16年之后，英偉達的CEO還是黃仁勛，雖然股價市值規模早已翻了十數倍乃至上百倍，但在他的掌舵下，英偉達依舊走在不斷尋找新客戶的道路上。

據路透社報道，英偉達正在建立一個新的業務部門，專注于為云計算公司和其他公司設計定制芯片，其中包括先進的人工智能處理器。

據其爆料，英偉達高管已經與亞馬遜、Meta、微軟、谷歌和OpenAI的代表會面，討論為他們生產定制芯片的事宜，除了數據中心芯片外，英偉達還在尋求電信、汽車和視頻游戲的客戶。

路透社的這份報道，意味著英偉達要以強勢姿態切入數據中心定制芯片市場，要在傳統的游戲，新興的人工智能等領域之后開拓一片新的戰場。


為什么英偉達選擇 ASIC？

英偉達選擇 ASIC 的原因，其實從其新部門面向客戶中可以窺見一二。新部門面向的主要是云計算公司，這和英偉達目前在主要的北美 CSP（云計算供應商）企業重疊，包括 Google Cloud、AWS、Microsoft Azure 和 Meta 等企業。

這些企業都已經開始進行自家芯片的開發，例如 Google 的 TPU 和微軟的 AI 加速器 Maia 及專為 Azure 設計的 CPU "Cobalt"。

因此英偉達進軍 ASIC 的原因有二：第一，占領新的市場。第二，保護自己免受替代。

先來看占領新的市場。數據中心定制芯片的蛋糕并不小，據研究公司 650 Group 估計，數據中心定制芯片市場今年將增長至 100 億美元，到 2025 年將翻一番。

Needham 分析師 Charles Shi 表示，2023 年更廣泛的定制芯片市場價值約為 300 億美元，約占全球芯片年銷售額的 5%。

數據中心的定制芯片的市場中有兩大巨頭：博通和 Marvell。在高端 ASIC 市場，博通以 35％的市占率，穩坐龍頭寶座，Marvel 以 12％的市占率居次。博通和 Marvell 其實都認為隨著數據中心處理器變的多樣，會讓定制芯片的模式重新煥發生機。

原因在于，AI 時代中，ASIC 芯片也能撐起一片天。

這就談回了一個老問題：ASIC、GPU，誰是最合適的 AI 芯片？其實這兩類芯片有各自的特點，但在滿足算力需求上是相互競爭的。簡單來說，GPU 有先發優勢，技術發展時間長，使用成本較低，但是功耗高。ASIC 面向特定用戶需求設計的定制芯片，在吞吐量、功耗、算力水平等方面都有優勢。

在 20 世紀 90 年代時，很多大型企業都渴望設計和提供針對特定應用的定制 ASIC 設備，同時提供更好的性能。Sony、Toshiba 和 IBM 最初設計的用于 Sony Playstation 3 的 Cell Processor 就是一個例子。不過，由于 ASIC 的成本高，隨著為特定產品設計 ASIC 變得越來越難以合理規模，ASIC 的歲月似乎過去。

ASIC 和 GPU 的分歧就在這：成本。

因為從性能來看，針對特定場景或應用所設計的 ASIC 芯片，會比英偉達所賣的通用 GPU 更有優勢。以前一直使用 GPU，也帶火了英偉達等廠商的業績和股價，但后來大家發現，隨著機器學習、邊緣計算發展，算法更加成熟和穩定，自己完全有足夠的計算需求去分攤 ASIC 的成本。

尤其 ChatGPT 爆火以后，英偉達 GPU 產品掉隊，很多企業都是靠著服務器 CPU+ASIC 的形式，來滿足用戶對于 AI 訓練和推理的算力需求。

這就展示出 ASIC 在 AI 時代的作用。Marvell 的計算與定制集團技術副總裁 Mark Kuemerle 觀察到：" 關于這些數據中心客戶的有趣事實是，如果他們的系統中出現輕微的瓶頸點，問題會被放大 1000 倍甚至更多（因為它們部署在超大規模中）。" 這樣的瓶頸點可能導致 NIC 卡住。現成的機器學習設備可能無法匹配工作負載或滿足靈活性或可編程性的需求。

Kuemerle 說：" 這些超大規模數據中心真的必須將一切精確調整到他們的工作負載。那么，他們投資建設定制芯片絕對是值得的。"

ASIC 早已成為 GPU 面臨的強大競爭者。

雖說各大廠商購買英偉達 GPU，花錢如流水，既然都是流水，為什么不定制更適合自家應用場景的芯片呢？要定制就要花錢，英偉達同樣想把大廠定制芯片的錢，納入自己的錢包。

再來看 " 免受替代 " 是怎么回事。目前，谷歌、亞馬遜、特斯拉和 Meta 都推出了 ASIC 芯片。

谷歌 2015 年發布首款 ASIC 芯片 TPU v1，去年已經迭代到了 v5。根據官方提供的數據，每個 TPU v5p pod 在三維環形拓撲結構中，通過最高帶寬的芯片間互聯（ICI），以 4,800 Gbps/chip 的速度將 8,960 個芯片組合在一起，與 TPU v4 相比，TPU v5p 的 FLOPS 和高帶寬內存（HBM）分別提高了 2 倍和 3 倍。

谷歌使用 TPU v5p 壘起一道抵御英偉達 GPU 的高墻。

對于谷歌來說，要錢有錢，要技術有技術，要應用場景有應用場景，可以說是各大科技巨頭中在自研 AI 芯片這條路上走得最遠的，其他廠商目前還在源源不斷地給英偉達賬戶打錢，但谷歌卻早已做好了兩手準備。

微軟則也是打響了 " 逃離英偉達 " 的信號槍。最新的消息，微軟正在開發一款新的網卡，可以提高其 Maia AI 服務器芯片的性能，并有可能減少該公司對芯片設計商 Nvidia 的依賴。

有知情人士表示，微軟首席執行官薩蒂亞 · 納德拉 ( Satya Nadella ) 已任命網絡設備開發商瞻博網絡 ( Juniper Networks ) 聯合創始人普拉迪普 · 辛杜 ( Pradeep Sindhu ) 來領導網卡工作。

看來出于成本和自主率考慮，大廠還是更愿意使用自家的 ASIC。買英偉達的 GPU 不但價格高昂，并且受制于人。不過，使用自家芯片多一些，那就用英偉達 GPU 少一些。


為大模型量身打造芯片

想要訓練一個大模型，代表算力的芯片就是最關鍵的一環，也是成本最高的一環。

這也導致了一個問題，如果AI照著現在這幅樣子發展下去，那么成本就會越來越高，高到絕大部分公司都難以承受的地步，根據外媒估計，如今正在開發的大模型，平均每個需要花費約 10 億美元，而下一代大模型呢，平均每個需要花費 100 億美元來訓練，這個天文數字，在硅谷買下幾十家有潛力的初創公司都還有得找。

這也暴露出了目前行業最常用的英偉達顯卡的弊端，英偉達的GPU并非為了AI而生，它起初是為了處理各種各樣的圖形化計算而生產制造的，整體設計也沒有脫離傳統計算的范疇，面對人工智能蓬勃發展時，強大的算力有相當一部分被浪費了，也意味著白花花的銀子被浪費了。

大公司可以一邊著手自研，一邊繼續購買英偉達的顯卡，但對于中小型公司來說，顯卡成為了他們最大的絆腳石，如此一來，AI在某種程度上就成為了一部分公司的專屬。

不過這種需求已被一部分人所注意到，在美國硅谷，邁克-岡特（Mike Gunter）和雷納-波普（Reiner Pope）這兩位從谷歌出走的工程師，他們成立了一家名為 MatX 的公司，而這家公司的目標，就是設計專門用于LLM（大型語言模型）的，更便宜、更快速、更適合人工智能的芯片。

在谷歌任職時，Gunter主要負責設計運行人工智能軟件的硬件（包括芯片），Pope則負責編寫人工智能軟件本身，這里不得不提到谷歌此前自研的TPU了，從2014年發展至今，已經更迭了整整五代，但它們和英偉達H100一樣，都不是為了LLM所量身打造的，放在人工智能領域中，顯得過于通用了一些。

Pope在接受采訪時表示：“我們試圖讓LLM在谷歌運行得更快，并取得了一些進展，但這有點困難，”他說到，“在谷歌內部，有很多人希望對芯片進行各種改動，因此很難只專注于 LLM。為此，我們選擇了離開。”

這兩位創始人都認為，在人工智能時代到來之際，芯片上額外的空間增加了不必要的成本和復雜性，因此需要“一刀切”，去掉所有不必要的部分，只保留必要的部分，MatX公司的做法就是在硅片上設計一個大型處理內核，目的只有一個，那就是盡可能快地將數字相乘——這是 LLM 的核心任務。

MatX表示，自己的芯片在訓練 LLM 和提供其結果方面將比英偉達的 GPU 至少好 10 倍。“英偉達有非常強大的產品，顯然是大多數公司的理想選擇，” Pope說，“但我們認為我們可以做得更好。

其預測，通過贏得包括OpenAI和Anthropic PBC在內的多家主要人工智能企業的青睞，它的業務將蒸蒸日上。“這些公司的經濟狀況與一般公司完全相反，"Gunter說，"他們把錢都花在了計算上，而不是工資上。如果情況不改變，他們就會沒錢。”

無獨有偶，隔壁總部位于多倫多的人工智能芯片初創公司 Taalas，同樣立志于改變由英偉達主導的AI世界，公司創始人包括Ljubisa Bajic、Lejla Bajic 和 Drago Ignjatovic，他們均來自傳奇架構師Jim Keller所領導的Tenstorrent。

與前東家Tenstorrent不同的是，Taalas幾位創始人想開發一種自動流程，能將任何人工智能模型快速轉化為定制芯片，其表示，由此產生的硬核模型的效率是軟件模型的 1000 倍。

“要實現人工智能的商品化，就必須將計算能力和效率提高 1000 倍，而目前的漸進式方法是無法實現這一目標的。我們不應該在通用計算機上模擬智能，而應該直接在芯片中打造智能，在芯片中實現深度學習模型是實現可持續人工智能的最直接途徑。”Taalas 首席執行官Ljubisa Bajic說。

Taalas認為，公司會解決了當今人工智能硬件的兩大問題，即能效和成本。如果客戶需要在手機里使用特定參數Llama2模型，而且確定了產品生命周期中的全部需求，那么可能只需要為它提供一款最低功耗和最低成本的專用芯片，未來的AI在消費者日常生活中的普及程度將像電力一樣無處不在，而Taalas認為自己能夠推動這一切的發展。

Taalas表示，它將在2024年第三季度推出首款大型語言模型芯片，并計劃在2025年第一季度向首批客戶提供芯片。

目前，這兩家打算顛覆目前AI芯片市場的公司都拿到了一筆數額不菲的投資，MatX獲得了2500萬美元的融資，而Taalas則獲得了5000萬美元的融資。

MatX的投資人提到，MatX這樣的公司象征著人工智能世界的一種新趨勢，因為他們正在把一些大公司開發出來的最好的創意（這些公司有點行動太慢、太官僚化）獨立商業化，硅谷之所以能成為硅谷，正是因為一批又批充滿活力的初創公司，初創公司能改變目前芯片行業沉悶的情況。

但問題也隨之而來，設計芯片并不是吃飯喝水那么簡單，設計和制造一款新芯片需要三到五年的時間，中間還不能出現重大失誤，五年前的想法拿到現在來看，不少已然過時，這就要求這些初創公司對未來技術趨勢有一個更準確的判斷。


定制化面臨不少挑戰

定制硬件始終是一把雙刃劍。它可以為芯片制造商提供競爭優勢，但通常需要更多時間來設計、驗證和制造芯片，這有時會浪費市場窗口。此外，對于除了最具價格彈性的應用程序之外的所有應用程序來說，它通常都太昂貴。這是設計前沿的一個眾所周知的方程式，特別是在涉及生成式人工智能等新技術的情況下。

但隨著平面擴展的結束，以及針對特定領域定制的更多功能，芯片行業正在努力弄清楚業務/技術等式是否正在經歷根本性的、更持久的變化。目前，大約 30% 到 35% 的設計工具被出售給大型系統公司，用于生產永遠不會進行商業銷售的芯片，這一事實使情況變得更加混亂。在這些應用中，提高每瓦性能所帶來的集體節省可能會使在大型數據中心設計、驗證和制造高度優化的多芯片/多小芯片封裝的成本相形見絀，從而引發關于定制與通用的爭論比以往任何時候都更加不確定。

“如果你在工程組織中走得足夠高，你就會發現人們真正想做的是軟件定義的東西，無論它是什么，”西門子 EDA高級綜合項目總監 Russell Klein 說。“他們真正想做的是購買現成的硬件，在上面安裝一些軟件，使其增值，然后發貨。這種范式在許多領域都被打破了。當我們需要極高的性能或極高的效率時，它就會崩潰。如果我們需要比現成系統更高的性能，或者我們需要更高的效率，我們需要電池持續更長時間，或者我們只是不能燃燒那么多的電力，那么我們就必須開始定制硬件。”

Quadric首席營銷官 Steve Roddy 對此表示同意。“在過去二十年或更長時間里，SoC 中的異構處理在絕大多數消費應用中已成為慣例。長期以來，手機、平板電腦、電視和汽車應用的 SoC 一直需要滿足高性能和低成本的嚴格要求，這導致當今這些系統中專用功能處理器的激增。即使如今的低成本手機 SoC 也具有用于運行 Android 的 CPU、用于繪制顯示屏的復雜 GPU、用于在低功耗模式下卸載音頻播放的音頻 DSP、與相機子系統中的 NPU 配合使用的視頻 DSP 來改進圖像捕獲（穩定、濾波器、增強）、基帶 DSP（通常帶有附加的 NPU）、用于 Wi-Fi 和 5G 子系統中的高速通信通道處理、傳感器集線器融合 DSP，甚至是可最大限度延長電池壽命的電源管理處理器。”

它有助于區分通用目的和特定于應用程序的內容。Ansys半導體部門產品營銷總監 Marc Swinnen 表示：“在專用硬件（我們稱之為定制芯片）上運行軟件可以帶來很多好處，因為它可以讓您比競爭對手更具優勢。” “您的軟件運行速度更快、功耗更低，并且專為運行您想要運行的軟件而設計。擁有現成硬件的競爭對手很難與您競爭。硅已經成為許多公司的商業價值和商業模式的核心，因此對其進行優化變得非常重要。”

然而，還是有一個平衡點。Expedera首席科學家兼聯合創始人 Sharad Chole 表示：“如果在投資回報和部署成本、電力成本、熱成本、冷卻成本方面存在任何成本合理性，那么構建定制 ASIC 總是有意義的。” 。“我們在加密貨幣中看到了這一點，現在在人工智能中也看到了這一點。我們在邊緣計算中看到了這一點，它需要極超低功耗的傳感器和超低功耗的流程。但通用計算硬件也得到了推動，因為這樣你就可以輕松地使應用程序更加抽象和可擴展。”

過去，它更多地是由經濟驅動的。Expedera 營銷副總裁 Paul Karazuba 表示：“市場有潮起潮落。” “將所有內容放入處理器都有一個起起落落的過程。擁有協處理器、增強主處理器內部的功能有起有落。這是幾乎所有事物的自然演變。設計自己的芯片不一定更便宜，但從長遠來看，不設計自己的芯片可能會更昂貴。”