2023年，萬象更新，AI芯片產業亦恢復生機。

在生成式人工智能（AIGC）熱潮的催化下，澎湃旺盛的研發和應用需求，令算力產業空前興奮，連帶著AI芯片產業也鉚足干勁，蓄勢待發。

作為構筑AI芯片大廈的“磚瓦”，神經網絡處理器（NPU）的設計會影響AI推理的性能、能效、靈活性、易擴展性、安全性。智能計算的多元化場景，正在改變新一代NPU的設計理念。

CPU、GPU、NPU有何區別

CPU、GPU、NPU 三者之間一字之差，但是功能與作用卻是各不相同，這里主要說一說 CPU 和 NPU 之間的差別，咆哥這里簡單的打個比方！

如果面前有一條河，在沒有橋梁的情況下，我們要如何渡過這條河呢？那么思考這個問題的就是 CPU 了，CPU 就是手機的大腦，調度手機里面的性能如何配置，這是一個腦力活。

如果前面有一條河，有橋可以渡河，有船可以渡河，有直升機可以渡河，還可以游泳渡河......，我們選擇哪一種方式渡河快還舒服呢？這就是 NPU 的工作了，它會在手機里面模擬一遍所有可行的方法，然后挑選出一個優選方式。如果這種方式有 1 億種的話，那么 NPU 可能就要計算 1 億次，這是一個苦力活！

所以現在大家明白了，CPU 干的是腦力工作，就像公司的總經理；NPU 是做程序式的工作，就像工廠流水線上面的工人。


ChatGPT帶飛異構計算，如何影響終端NPU算力擴展？

發展通用人工智能是計算機行業一直以來的偉大夢想，而大模型與生成式AI取得的突破性進展，正以日新月異的速度縮短現實與想象之間的距離，也正重新制定AI芯片的規則。

“在應用層面，ChatGPT把數據處理的熱度推向一個高峰。”安謀科技執行副總裁、產品研發負責人劉澍告訴智東西，ChatGPT的背后結合了知識圖譜、數據庫、數據收集和分析等一整套技術體系，開創了很多NPU在不同行業應用的窗口和前景，并帶動NPU、CPU、GPU等多種異構算力的結合。

動輒參數規模上億的AI模型大多訓練和運行于云上?？蒲腥藛T正在探索如何將它們放到性價比更高的終端硬件上。最近十幾天，國內外研究人員已經成功實現用單張消費級顯卡、蘋果M1/M2芯片跑大型語言模型，展現了在性價比更高的終端硬件上運行認知智能的可能性。

近年來，智能汽車、AIoT等產業智能化進程提速。一方面，智能汽車、邊緣計算、智能家居、移動設備等對AI處理圖像分辨率的要求越來越高；另一方面，AI正與各行各業的典型應用場景相融合，并逐步向傳統To B端產業滲透。

相比將所有計算放在云上，終端NPU處理能夠降低數據傳輸造成的延時，節省大量開銷。特別是對于視覺、語音等人機交互以及自動駕駛等對實時處理要求嚴苛的應用場景，終端NPU的發展是必然且必須的。

據劉澍觀察，為了適應下游AI算法的發展，未來終端算力可能有兩個發展路徑：一是終端算力越來越強，終端算力的持續擴展是未來趨勢，但會受限于成本和功耗；二是不斷為終端裁剪網絡，這是安謀科技長期在做的嘗試，通過量化剪裁等措施將模型變得更小。

兩者相互并進，通過將云端的算法模型優化到位，實現其在擁有更高算力的終端的部署。

多核心、大算力、多精度，助力AI多場景落地

隨著摩爾定律放緩，通用處理器架構難以滿足人工智能的密集型計算需求。數據顯示，2000-2004年，每一美元能獲取的芯片性能以每年48%的速度提升，而2008年以后已不足10%。在這種趨勢下，專用芯片成為面向特定需求提升算力和能效比的新思路。

其中，NPU是面向機器學習和人工智能領域的專用加速芯片。相比CPU、GPU等通用芯片，NPU在電路層模擬了人類神經元和突觸，針對AI計算涉及的大量神經網絡模型進行特殊優化，能夠以更高的效率、更低的能耗處理人工神經網絡、隨機森林等機器學習算法和深度學習模型。

如今，蘋果、三星、oppo等多家手機廠商搭載了NPU，用于面部識別、拍攝物體及環境識別、影像處理等，為消費者帶來3D動畫表情、人臉解鎖、AI場景識別、無損實時RAW計算等一系列新體驗。隨著人工智能向平板電腦、臺式機等更多終端，家居、汽車等更多領域滲透，“萬物智聯”時代拉開序幕，這不僅考驗著NPU的算力和精度，也對NPU架構的靈活性和兼容性提出了更高的要求。


結語：本土創新+生態構建，撬動芯片設計“大局”

生成式AI的火爆出圈，正激發新一輪AI研發與商用熱潮。各類硬件終端智能化滲透率不斷提升，對作為底層算力基礎設施“大腦”的AI芯片提出了更高的要求。

快速迭代的AI算法、日趨廣泛的應用場景，既離不開高性能NPU來提供更強算力支撐，也離不開易用的軟件平臺來加快芯片產品的部署和落地流程。