今年以來，人工智能（AI）成為香餑餑，世界各大IT巨頭競相采購服務器并訓練大模型。

結合業界人士以及各大AI頭部企業最新消息顯示，盡管科技公司都投入大量資源發展最新AI技術，但是多家頭部企業表示這一業務目前難以產生足夠的利潤。


成本巨大、獲利較難

據微軟、AMD等龍頭企業表示，AI業務難以獲利的最重要原因，還在于AI研發相關工具成本過于高昂，比如生成式AI大模型的耗費就是典型的燒錢。

據華爾街日報爆料，微軟的AI編程工具GitHub Copilot用戶量高達150萬，但是平均每個月在每個用戶身上都要倒貼20美元，最高能達80美元。不止微軟“表面光鮮”，谷歌、亞馬遜、Adobe、Zoom等巨頭也面臨同樣的窘境。據SemiAnalysis的專家Dylan Patel統計，OpenAI光是運行ChatGPT，每日投入的成本就可能高達70萬美元。

據悉，生成式人工智能工具的商業模式未經充分驗證，其運行成本高昂，需要配備昂貴芯片的大型服務器，且耗電巨大。并且當下AI相關應用的落地場景、應用價值也仍待挖掘。目前，微軟、谷歌、Adobe等其它科技公司正在嘗試各種方法來推銷付費人工智能服務。

谷歌的人工智能助手服務每月訂閱費6美元，此后也計劃額外收取每月30元的費用；網絡視頻公司Zoom也嘗試內部開發更簡便的AI來降低成本；Adobe則采取每月限量使用的機制，來確保其人工智能服務Firefly不會陷入虧損，用戶每月有固定的分配額度，一旦超過，其運行速度會大幅降低；OpenAI的ChatGPT 4.0每月訂閱費用為20美元，但是舊版本可免費使用。

上文所述的微軟和GitHub還沒有回應該服務是否盈利，但該企業計劃后續升級會提高使用價格，除了Microsoft 365企業基本月費13美元之外，人工智能強化版本每月會額外收取30美元。

亞馬遜云部門主管Adam Selipsky表示，他接觸的許多客戶都對運行一些大模型的成本感到不滿。微軟企業戰略主管Chris Young認為，企業和消費者需要時間來了解他們希望如何使用人工智能，以及愿意為此支付多少費用。他表示，“很明顯，我們現在必須把對AI的興趣和興奮轉化為真正的行動。”

生成式人工智能公司Writer的首席執行官May Habib表示，AI公司估值的上升反映了人們對其前景的看好，但是公司高管們很快就會更加關注成本問題。她認為，2024年將是人工智能投資熱度降溫的一年。


英偉達贏麻了

當ChatGPT橫空出世，英偉達“命運的齒輪”就已經悄悄轉動。

黃仁勛道，AI的iphone時刻已經到來。如今，“一個新的計算時代已經開始，全球公司正在從通用型向加速計算和生成型人工智能過渡”，英偉達也在AI芯片上收獲了比預想更好的利潤。

英偉達公布的2024第二財報季業績顯示，截至2023年7月30日，公司第二季度收入135.07億美元，同比增長101%，比上一季度增長88%，高于分析師預期110.4億美元；歸屬凈利潤實現61.88億美元，同比增長8.43倍；攤薄每股收益為2.48美元，同比上年同期增長854%，環比上一季度增長202%。

各項指標超過預期，這或許也是英偉達史上最佳的業績報告。AI熱潮推動的大模型訓練的GPU市場需求還處在高位，英偉達作為市面上唯一的高端GPU的供應商，H100系列芯片在市場中一卡難求。因此，英偉達在財報中不僅披露了新產品進展，也在加快產能建設。

自英偉達發布大模型專用GPU并量產供貨后，由于市場需求遠大于產能供應，市面上的英偉達H100芯片被瘋狂加價，有時候甚至一卡難求。

據市場消息稱，英偉達AI芯片H100在2023年8月的市場總需求可能在43.2萬張左右，而據據eBay網站顯示，目前一張專門用于訓練AI大模型的H100芯片在Ebay上的價格甚至炒到了4.5萬美元，折合人民幣超過了30萬元。


SK海力士低調吸金

去年9月推出的H100，是英偉達產品矩陣中最先進的GPU。

相較于前任A100，它的價格翻了1.5-2倍左右，但性能卻有了質的飛躍：推理速度提升3.5倍，在訓練速度提升2.3倍；如果用伺服器叢集運算的方式，訓練速度更是能提高到9倍。在LLM訓練中，它能讓原本一個星期的工作量，縮短為20個小時。

一塊英偉達H100，主要由三個部分構成：中心的H100裸片兩側各有三個HBM堆棧，最外層則是臺積電的2.5D CoWoS封裝框。

三個部件里，核心的邏輯芯片供應是最簡單的，它主要產自臺積電臺南18號工廠，使用4N工藝節點（實際是5nm+）。由于5nm+下游的PC、智能手機和非AI相關數據中心芯片市場疲軟，目前臺積電5nm+產能利用率不到70%。因此邏輯芯片供應沒有問題。

英偉達最主要的供應缺口，來自邏輯芯片兩側的6塊HBM（High Bandwidth Memory，高帶寬內存），和把邏輯芯片、HBM連接起來的CoWoS封裝（Chip on wafer on Substrate，芯片、晶圓、基板封裝）。

HBM是一種基于3D堆疊工藝的DRAM內存芯片。其技術原理，就是將多個DDR芯片，垂直堆疊在一起，通過硅通孔（TSV）和微凸塊（μBmps）技術，把芯片相互連接，從而突破了現有的性能限制，大大提高了存儲容量，實現更高帶寬、更高位寬、更低功耗、更小尺寸的DDR組合陣列。

內存芯片對GPU性能至關重要，尤其是訓練AI所用的高性能GPU。推理和訓練工作負載是內存密集型任務。隨著AI模型中參數數量的指數級增長，僅權重一項就將模型大小推高到了TB級。因此，從內存中存儲和檢索訓練和推理數據的能力決定了GPU性能的上限。AI大模型和應用越多，越有利于HBM制造商。

從整體HBM市場來看，兩大韓國存儲巨頭SK海力士及三星占絕對壟斷地位，二者合計市占率在90%左右。

英偉達H100上面使用的HBM3由SK海力士獨家供應，這是目前最先進的HBM產品。

HBM3工藝復雜、成本高昂、產能有限，2022年，在整個HBM市場中，HBM3僅占約8%的市場份額。作為全球唯一有能力量產HBM3的公司，SK海力士牢牢卡住了英偉達H100的脖子；而前代GPU A100/A800以及AMD的MI200使用的則是落后一代的HBM2E技術。

不過，當前存儲芯片業界正處于HBM2E向HBM3換代的過程中。據Trendforce數據，預計到2024年，HBM3市占率將超過60%，三星、美光等存儲芯片廠都在積極布局，都對SK海力士的市場份額虎視眈眈。


臺積電：根本忙不過來

先進封裝則是一項與HBM內存相輔相成的技術——要用HBM堆棧，必須用先進封裝把內存和GPU連接起來。

H100上使用的臺積電CoWoS先進封裝，是一項2.5D封裝技術。

主流的2D封裝方案，是在基板（Substrate）的表面水平安裝所有芯片和無源器件的集成方式，類似于平面的拼圖。

而2.5D先進封裝，則可以類比為橫向排列的積木。多層DDR芯片堆疊的HBM堆棧，必須依賴先進封裝才能實現。

臺積電的CoWoS先進封裝方案，由CoW和oS組合而來：先將芯片通過Chip on Wafer（CoW）的封裝制程連接至硅晶圓，再把CoW芯片與基板連接（on Substrate），整合成CoWoS。

CoWoS技術大大提高了互聯密度以及數據傳輸帶寬，同時縮小了封裝尺寸，但工藝也非常復雜，因此主要用于高端市場。

據媒體報道，目前臺積電CoWoS封裝月產8000片，今年底有望提升至11000片，2024年底有望實現14500至16600片左右的月產能，也就是說，想要提升一倍的產量，幾乎需要一年半的時間。


AI企業獲利還要再等五到十年？

根據分析平臺Similarweb的數據，ChatGPT的每月在線訪問量在經歷了數月的增長后，分別在6月和7月下降了10%。圖片生成式AI平臺Midjourney的月訪問量在截至7月的3個月內連續下降。

指數風投（Index Ventures）合伙人Mark Goldberg表示，商業人工智能應用的出現曾經被寄予“光速實現”的樂觀預期，但現在“出現了一種淺層次的幻滅感”：ChatGPT的初始用戶增長激增，導致投資者高估了消費者將使用由生成式人工智能驅動的工具的速度。

投資者在這些產品尚未擁有客戶或收入之前便急于支持正在建設這些產品的初創公司，這引發了對市場可能過熱的擔憂。

風險投資者表示，他們仍然不確定圍繞這項技術構建新產品的初創公司的獲勝商業模式是什么樣的——許多初創企業尚未證明他們能否留住用戶，并開發出現有公司難以輕易模仿的產品。

由于盈利模式不確定，一些公司已經對于向生成式人工智能的投資提出了懷疑。

據小i集團董事局主席&首席執行官袁輝的說法，ChatGPT意味著整個產業的變革升級，很多行業將會被重塑，是一個顛覆性的創新。他說，“沒有一次工業革命可以與人工智能相提并論。過去工業革命還是在某個領域或某一地區以某個國家為主導，但現在AI已經沒有邊界了。”

“ChatGPT對人類將有兩個重大影響。”袁輝稱，一是接下來五到十年是AI的技術紅利，是六十年積累后巨大的紅利變現期；二是AI發展正在加速，早期曾預言這需要三十年五十年甚至更長時間。

ChatGPT已經可以快速進入到各行各業并產生價值，但袁輝提醒道，ChatGPT未來面臨著三個關鍵的挑戰。一是需要可控，就是從意識形態、倫理道德上來講必須可控，否則將極度不安全；二是如與行業結合，必須得可定制；第三是可交付。“它一定要實現可控可交付可定制才能在行業中大規模地變現。”他說。