世界人工智能大會（WAIC 2025）前夕，摩爾線程以“算力進化，精度革命”為主題舉辦技術分享會，創新性提出“AI工廠”理念，旨在破局生成式AI爆發的大模型生產效率。

這意味著作為國內領先的GPU廠商，摩爾線程從底層芯片架構創新的單點性技術創新，向集群整體架構的優化，再到軟件算法調優和資源調度系統的全面升級，也是應對AI時代發展，模型參數，算力需求進一步挑戰的主動布局。這種全方位的基礎設施變革，將推動AI訓練從千卡級向萬卡級乃至十萬卡級規模演進，以系統級工程實現生產力和創新效率的飛躍。

會上，摩爾線程CEO張建中圍繞“AI工廠”理念，以及摩爾線程在打造AI工廠方面的五大核心能力做了詳細介紹。

整體而言，在摩爾線程定義的以智能作為“產能”的“AI工廠”中，生產效率由五大核心要素決定成功與否：AI工廠生產效率=加速計算通用性*單芯片有效算力*單節點效率*集群效率*集群穩定性，每一個環節都要求做到極致。

核心技術一：全功能全精度，實現加速計算通用性

加速計算芯片本身的強大通用性，是打造“AI工廠”的核心基石。

這要求單芯片能夠覆蓋多場景，才能支持多樣化的模型訓練。而這也是摩爾線程從成立之初以來的產品定位“全功能GPU”，在創新MUSA架構的支持下，摩爾線程單GPU芯片可以同時支持AI計算加速、圖形渲染、是物理仿真和科學計算、超高清視頻編解碼的技術能力。

此外，精度完整性也是衡量全功能GPU通用計算能力的核心指標。在計算精度方面，其支持從FP64至INT8的完整精度譜系，是國內極少數具備FP8大模型訓練平臺的廠商，通過FP8混合精度技術，有效提升訓推一體能力，在主流前沿大模型訓練中實現20%~30%的性能躍升。

核心技術二：自研MUSA架構，提升芯片有效算力

強大的芯片有效算力是作為“AI工廠”的核心競爭力。而作為GPU的 “靈魂”，創新的架構設計往往決定了GPU的計算能力、能效比、適用場景乃至技術上限。

摩爾線程自研的MUSA架構，從設計之初，便完整考慮到面向未來多樣計算場景的需求，通過多引擎可配置統一系統架構，實現一個架構在不同領域的應用，統一編程接口，并著力在計算、內存、通信三個層面實現突破，顯著提升單GPU運算效率。

計算、通信、存儲、指令集之間的相互交接、相互協調、相互調度的一系列功能需求，要在頂層設計當中完整地考慮進去。

摩爾線程采用創新的多引擎、可伸縮GPU架構，通過硬件資源池化及動態資源調度技術，構建了全局共享的計算、內存與通信資源池。這一設計不僅突破了傳統GPU功能單一的限制，還在保障通用性的同時顯著提升了資源利用率。其參數化配置可伸縮架構允許面向目標市場快速裁剪出優化的芯片配置，大幅降低了新品芯片的開發成本。

這樣的架構能便于開發者和用戶在底層直接調用相關引擎，將各種不同的硬件減速流水線pipeline起來，而所有結果共享一個內存和資源池，這是最典型的數據驅動、引擎支持和引擎計算的統一系統架構，可以讓工作效率更高。

在性能方面，AI加速系統如何讓性能發揮得更好，需要有功能定制的核心計算引擎。摩爾線程通過兩套自研的AI計算加速系統：張量計算引擎（TCE）、張量訪存引擎（TME），實現對算、存環節的針對性管理和調度，更好地發揮效率。此外，為了使眾多工作、步驟、引擎保持同步不亂、有條不紊，摩爾線程自主設計了引擎異步流水（ATB）。可以把上述工作內容Pipeline起來，且不需要等待。

在計算層面，摩爾線程的AI加速系統全面支持INT8/FP8/FP16/BF16/TF32等多種混合精度計算。作為國內首批實現FP8算力量產的GPU廠商，其FP8技術通過快速格式轉換、動態范圍智能適配和高精度累加器等創新設計，在保證計算精度的同時，將Transformer計算性能提升約30%。

摩爾線程透露，設計FP8的時候，摩爾線程研發團隊特別設計了一個FP8的Transformer引擎，專門用于FP8的加速計算。Transformer引擎是摩爾線程平湖架構（第四代GPU架構）中一個核心科技，從而帶來計算性能的顯著提升。

在通信能力方面，摩爾線程獨創ACE（異步通信引擎），減少了15%的計算資源損耗，MTLink2.0互聯技術提供了高出國內行業平均水平60%的帶寬。在不同數據包的傳送上，Scale-Up效率可以最高提升30%，平均在15%以上。這些功能可以讓GPU之間不同的復雜拓撲結構不受計算環境的影響，可以實現卡間高效互聯通信。

在存儲方面，MUSA存儲子系統實現了多維度的升級，通過多精度近存規約引擎、低延遲Scale-Up內存順序模型、通算并行資源隔離等技術，實現了50%的帶寬節省和60%的延遲降低。

核心技術三：MUSA全棧系統軟件，提升單節點計算效率

對GPU而言，單節點計算效率不僅依賴硬件算力，更取決于軟件能否讓硬件 “跑滿”—— 避免算力閑置、數據傳輸阻塞、算子低效等問題。而MUSA全棧系統軟件的價值，正是通過全鏈路優化，通過消除各環節的性能損耗、最大化硬件潛力，最終實現單節點效率的躍升。

主要包括幾點核心要素。

一是GPU驅動任務調度優化。Kernel Launch（核函數啟動）是GPU/加速器計算中的核心調度機制，是指將計算任務從CPU主機傳輸到GPU設備并執行的過程，本質是鏈接軟件指令與硬件算力的橋梁。傳統Kernel Lauch延遲較高，導致GPU在任務空間頻繁空閑，形成計算空洞。而GPU空閑時，算力資源浪費，硬件利用率不足。

而摩爾線程的GPU驅動任務調度優化能夠使得Kernel Launch時間縮短50%。支持千次計算指令單次并行下發以及55%的延遲減少。

二是打造極致性能算子庫。GEMM算子算力利用率達98%，Flash Attention 算子算力利用率突破95%。

三是通信效能躍升。通過MCCL通信庫實現RDMA網絡97%帶寬利用率；基于異步通信引擎優化計算通信并行，大模型訓練集群整體性能提升10%。

四是低精度計算效率革新。實現對于FP8的計算性能優化，大幅提升訓練效能。FP8 GEMM利用率處于行業領先水平。此外，行業首創細粒度重計算，采用創新的Recompute高效算法，計算開銷減少4倍，可以使得訓練精度能保持得更高，累計誤差更小。

五是開發生態完善。Triton-MUSA編譯器對于vLLM、SGLang等，已實現開源Triton算子100%覆蓋。FlagGems算子庫支持160+熱點算子，支持率超過90%。MCC自研編譯器支持torch compile，計算圖優化加速比達1.5倍。MUTLASS高性能線性代數模板庫兼容支持CUTLASS/CuTe3.6.0。多精度支持TF32、FP16、BF16、INT8等主流AI計算。基于MUTLASS的GEMM性能可達muDNN手寫匯編性。

此外，為了服務廣大開發者，摩爾線程還打造了完整的軟件開發套件，對應Torch Profiler，監控、管理，performance tuning等一系列工具。同時，摩爾線程也計劃開放很多套件給所有開發者，同時也愿意傾聽開發者的意見。值得一提的是，今年10月，摩爾線程將舉辦首屆MUSA開發者大會。

核心技術四：自研KUAE大規模集群，優化集群效率

當單節點效率達到新高度，如何實現大規模集群的高效協作成為新的挑戰。夸娥（KUAE）是摩爾線程自研的計算集群，其中包括一系列的計算集群、軟件平臺、管理系統、優化系統以及維護和服務等流程。

在提升單節點計算效率的基礎上，摩爾線程自研KUAE計算集群通過5D大規模分布式并行計算技術，實現上千節點的高效協作。

在性能仿真與優化方面，自主研發的Simumax工具面向超大規模集群自動搜索最優并行策略，可以實現集群訓練性能的最優化。通過精準模擬FP8混合精度訓練與算子融合，為DeepSeek等模型縮短訓練周期提供科學依據。

針對大模型穩定性難題，摩爾線程通過創新CheckPoint加速方案利用RDMA技術，將百GB級備份恢復時間從數分鐘壓縮至1秒，提升GPU有效算力利用率。

摩爾線程表示，夸娥（KUAE）的設計理念，首先要滿足應用中的多方面要求，比如做并行處理，不光是做一個DP（數據并行）、PP（流水線并行）、EP（專家并行），幾乎所有不同的并行策略和方法都要支持，而且效率要做到最高。第二，秉持端到端的模型訓練理念。模型訓練之前數據要處理、預訓練、后訓練、模型評估等等，提供從數據處理到模型部署的一站式服務。

基于平湖架構KUAE2智算集群，無論千卡或更大規模，摩爾線程正在提升其性能，并且MFU已達到行業領先水平。

核心技術五：零中斷容錯技術，提升集群的穩定性和可靠性

摩爾線程提出的AI工廠方案：從單芯片算力、效率，再到單節點和集群效率，彼此之間是相乘的關系，只有每一個環節都做到極致，才能最大限度地發揮能力，而穩定性和可靠性是決定集群最后成敗的關鍵。特別在萬卡級AI集群中，硬件故障導致的訓練中斷會嚴重浪費算力。

而在提升集群穩定性方面，摩爾線程創新推出零中斷容錯技術，故障發生時僅隔離受影響節點組，其余節點繼續訓練，備機無縫接入，全程無中斷。這一方案使KUAE集群有效訓練時間占比超99%，大幅降低恢復開銷。

在可靠性方面，摩爾線程通過多維度訓練洞察方案，實現動態監測與智能診斷，解決訓練中的慢節點致命短板，可以“看得見”每一片GPU從而實施精確管理，該方案使得慢節點、Hang等異常處理效率提升50%。

同時，為保證集群在訓練起步階段的成功率，摩爾線程的可靠性方案還結合了集群巡檢與起飛檢查，包含一系列自動化工具使其自動調度，優化管理效率，使得訓練成功率以及速度提高10%。

從訓練到驗證：構建完整閉環

完善的“AI工廠”不僅需要高效訓練大模型，還需具備推理驗證能力，從而構建起完整閉環。

在推理驗證方面，摩爾線程開發了相應工具方案，覆蓋LLM、視覺、生成類模型等全流程推理解決方案。

一是MT Transformer自研推理引擎，面向LLM實現極致優化。二是TensorX自研推理引擎，面向生成類和視覺類。三是vLLM-MUSA，在NTT和DirectX不支持的情況下，用戶可以使用vLLM，vLLM-MUSA能夠達到推理引擎的最高性能的80%，可以讓很多用戶更快速地實現適配。

經過測試，摩爾線程最新AI旗艦產品MTT S5000針對DeepSeek R1滿血版大語言模型的推理速度，達到100tokens/s，在同國際主流GPU和其他國產GPU的比較中，推理處于行業領先。

結語

此次摩爾線程技術分享會上呈現的，是以 AI 工廠為核心載體，成功搭建起貫穿 “訓練 - 推理 - 部署” 全流程的高效體系，這不僅是其自身技術實力的體現，更標志著國產計算基礎設施在支撐 AGI 時代規模化、高效率、高可靠模型生產方面，邁出了關鍵且堅實的一步。

從圖形渲染，到AI 算力引擎，摩爾線程的全功能 GPU 始終走在加速計算革新的前沿。以 “KUAE+MUSA” 構建的智算業務核心為驅動力，摩爾線程正不斷拓展其影響力，加速為千行百業注入 AI 動能。未來，在物理仿真、AIGC、科學計算、具身智能、智能體、醫療影像分析、工業大模型等關鍵領域，由全功能 GPU 驅動的 AI 技術有望將在摩爾線程的推動下，實現更廣泛的應用與深度部署，為國產計算力量的崛起和 AI 產業的蓬勃發展書寫新的篇章。