我們普通人和大模型的距離有多遠？AI發(fā)展到2024年，已經(jīng)附著在各種智能硬件上了，什么AI PC，AI手機，AI藍牙音箱，AI學(xué)習(xí)機，AI鼠標(biāo)等等，但其實雖然很多產(chǎn)品加上了個AI的名頭，但用起來總讓人想罵一句“人工智障”。手機、音箱里的“小藝小愛”們，只能做些約定俗成框架里的事，目前用起來是沒感覺他能學(xué)習(xí)的。但AI PC貌似可以走完我與大模型的“最后一公里”，讓每一個普通人都能夠擁有昂貴的大模型。
主流AI PC芯片盤點及應(yīng)用情況
2023年9月，AI PC的概念被首次提出，到2024年2月，英特爾在 MWC 2024 上表示，將會和宏碁、華碩、戴爾、Dynabook、富士通、惠普、聯(lián)想、LG、微軟 Surface、NEC、松下、三星和 VAIO 等公司合作，推出超過 100 款搭載英特爾最新AI PC芯片的商用筆記本電腦、臺式機、一體機和入門工作站。在AI PC概念逐漸被市場認可后，各大老牌芯片巨頭都緊跟推出新品。10 月，AMD Ryzen 7040系列筆記本電腦配備了基于Xilinx IP的專用AI引擎，名為“Ryzen AI”，可以加速 PyTorch和TensorFlow等機器學(xué)習(xí)框架的運行；同為10月，高通針對AI PC發(fā)布X Elite芯片；2024年1月，NVIDIA推出三款裝載額外裝置的全新顯卡，稱用戶可以在“AI PC”上使用AI功能。目前，英特爾、高通、AMD、蘋果等芯片處理器廠商已推出針對AI PC的處理器，聯(lián)想、華碩、戴爾、榮耀等品牌廠商也在積極推動AI PC的發(fā)展。

雖然有各種各樣的AI PC的處理器，但基本上各廠商通用計算架構(gòu)都采用了“CPU+GPU+NPU”的異構(gòu)方案。

圖注：高通、英特爾、AMD的AI PC處理器

大模型的本地運行需要強大的AI算力，因此，在傳統(tǒng)的CPU+GPU方案里加多了一個嵌入式神經(jīng)網(wǎng)絡(luò)處理器—NPU。NPU是一種專門用于處理人工神經(jīng)網(wǎng)絡(luò)計算的計算機微處理器，用于深度學(xué)習(xí)，對神經(jīng)網(wǎng)絡(luò)工作負責(zé)進行憂化。CPU做主控、GPU 做渲染、NPU 做 AI 加速，三種芯片結(jié)合，能實現(xiàn)更快速、更高效率的邊緣AI模型推理。
高通用驍龍X Elite殺進PC領(lǐng)域，英特爾占領(lǐng)AI PC市場氣勢很足
微軟宣布其AI PC的最低算力為40 TOPS，目前市場上的英特爾酷睿Ultra (34 TOS) 和AMD 銳龍 8040 (39 TOPS)都不能滿足這一標(biāo)準(zhǔn)。除了裝有AI專用顯卡的筆記本之外，目前只有高通的驍龍X Elite(45 TOPS)能達到這性能要求。據(jù)預(yù)期，2024年下半年推出的AMD 銳龍8050和英特爾Ultra 200這兩款處理器也將符合微軟規(guī)定的40 TOPS。

從算力來看，高通確實是領(lǐng)先于目前其他AI PC處理器一步，但英特爾在PC芯片上的生態(tài)地位難以撼動，而在驍龍X Elite之前，高通在PC領(lǐng)域一直沒有太大聲響。然而在驍龍X Elite的發(fā)布會上，高通很狂，拉出蘋果和AMD出來比較，喊話“我們單線程性能超越了蘋果 M2 Max！并且同性能功耗比蘋果還低 30%！” “英特爾也是一樣”“比 AMD 的核顯還強 80%！”

圖注：高通發(fā)布會上拿英特爾i9-13980HX進行對比功耗

圖注：高通發(fā)布會上拿AMD Ryzen 9-7940HS進行對比GPU性能

PPT數(shù)據(jù)很強大，也有很多PC OEM廠商會搭載，微軟、聯(lián)想、惠普、宏碁、華碩、三星等筆記本傳統(tǒng)玩家，還有小米和榮耀。

同樣有許多PC OEM站臺的還有英特爾，英特爾在 MWC 2024 上推出全新的 vPro 平臺，涵蓋新款酷睿 Ultra 和第 14 代處理器，介紹 是一個商業(yè)計算平臺，主要面向企業(yè)用戶，將會和宏碁、華碩、戴爾、Dynabook、富士通、惠普、聯(lián)想、LG、微軟 Surface、NEC、松下、三星和 VAIO 等公司合作，推出超過 100 款搭載英特爾最新芯片的商用筆記本電腦、臺式機、一體機和入門工作站。這羅列的商家和數(shù)據(jù)，頗有一種占領(lǐng)PC市場的野心和氣勢。
AMD Ryzen AI產(chǎn)品已經(jīng)開始出貨
AMD的AI產(chǎn)品組合涵蓋云端、高性能計算、企業(yè)級、PC、嵌入式等應(yīng)用，其AI 戰(zhàn)略基于三個關(guān)鍵要素：產(chǎn)品、架構(gòu)和開放生態(tài)系統(tǒng)。

集成AI引擎的Ryzen 7040、8040、8045等移動系列CPU是產(chǎn)品組合中的一部分，其中，Ryzen 8040系列已經(jīng)開始出貨，相關(guān)終端會在Q1上市。此外，AMD還有Ryzen 8000G系列桌面APU產(chǎn)品，同樣基于臺積電4nm制程，均提供最多8個Zen4架構(gòu)的CPU核心，集成有最高768SP配置的RDNA3架構(gòu)核顯，可支持硬件光追和AFMF技術(shù)。

目前，基于Ryzen AI技術(shù)的產(chǎn)品已經(jīng)被用于聯(lián)想、華碩、宏碁等品牌電腦中，這些AI PC通過Ryzen系列產(chǎn)品內(nèi)置的神經(jīng)處理單元（NPU）提供低功耗、高效率的AI計算能力，加快圖片和視頻處理、語音識別、文字轉(zhuǎn)錄等AI相關(guān)的本地應(yīng)用處理速度，從而提升用戶的生產(chǎn)力和娛樂體驗。

Arm架構(gòu)或受益于AI PC浪潮
相比x86架構(gòu)，Arm的優(yōu)勢在于低成本、低功耗、日益加強的性能和系統(tǒng)通用性以及海量終端設(shè)備生態(tài)，這些優(yōu)勢有望在移動終端AI PC上得到發(fā)揮。Counterpoint Research預(yù)測，隨著Arm芯片迭代及性能持續(xù)提升，蘋果、三星、聯(lián)發(fā)科等國際大廠紛紛試水基于Arm架構(gòu)的PC芯片，未來Arm有望于2027年占據(jù)全球Notebook CPU/SoC出貨量25%的市場份額。前文提到的高通驍龍X Elite處理器，其內(nèi)部的Oryon CPU是由高通公司開發(fā)的基于Arm指令集的完全定制化設(shè)計的處理器核心。不同于傳統(tǒng)的Arm Cortex公版架構(gòu)，Oryon是高通在收購NUVIA后推出的全新CPU內(nèi)核，專為提升移動計算和筆記本電腦等設(shè)備的性能及能效而打造。另外有消息稱，NVIDIA和AMD已經(jīng)開始設(shè)計基于Arm的PC芯片，并將運行Windows操作系統(tǒng)，并最早在2025年推出。而在此之前，微軟首款Surface平板電腦Surface RT采用了NVIDIA基于Arm的Tegra處理器，但Windows RT未能產(chǎn)生太大市場反響。根據(jù)外媒Windows Central的一份報告顯示，Microsoft正準(zhǔn)備使用新的AI功能升級其Surface產(chǎn)品線，或于2024年發(fā)布的 Surface Pro 10 和 Surface Laptop 6 將配備下一代神經(jīng)處理單元 （NPU），并具有英特爾和Arm處理器兩種選項。在更遠的2025年還可能會有更新的 Surface Laptop Studio。微軟很早就在其產(chǎn)品中支持Arm架構(gòu)處理器，Windows RT是微軟最早嘗試在Arm架構(gòu)上運行Windows的一個版本，最新的Windows 11繼續(xù)支持Arm架構(gòu)，并且在兼容性、性能和用戶體驗上進行了改進，支持更多應(yīng)用程序原生運行在Arm設(shè)備上，同時通過模擬技術(shù)讓更多x64應(yīng)用可以在Arm設(shè)備上運行。微軟還與高通、三星等硬件制造商合作，推出了多款搭載Arm處理器并運行Windows 10 on ARM系統(tǒng)的設(shè)備，如搭載高通驍龍系列處理器的始終連接PC（Always Connected PCs），這些設(shè)備結(jié)合了智能手機的長久續(xù)航和始終在線的特點與PC生產(chǎn)力工具屬性。微軟在AI PC生態(tài)中除了廣泛硬件兼容，還具有一個比較重要的產(chǎn)品，也就是AI助手Copilot，其賦予了用戶全新的交互方式，讓AI更加緊密地融入個人電腦的操作和使用過程中，使得AI不再是抽象的概念，而是實實在在提升生產(chǎn)力和便利性的工具。
小結(jié)
AI PC為處理器芯片廠商和PC廠商創(chuàng)造了機遇，比較顯著的革新趨勢之一是通過在CPU、GPU或?qū)Ｓ肗PU中集成AI加速單元，提供更高的計算效率和更低的能耗，各主要處理器廠商均有產(chǎn)品落地，本文對這些處理器做了介紹。AI應(yīng)用場景比較豐富，因此處理器的另一個趨勢是定制化，這需要處理器廠商與操作系統(tǒng)開發(fā)商、AI框架開發(fā)者、ODM/OEM廠商緊密合作，共同推廣AI應(yīng)用和服務(wù)，打造獨特賣點，提高產(chǎn)品附加值。

審核編輯 黃宇