10 月 15 日，OPPO ColorOS 16 發(fā)布會暨 OPPO 開發(fā)者大會在深圳隆重召開，大會現(xiàn)場除發(fā)布 OPPO 最新技術(shù)外，還舉辦了多場論壇，與業(yè)界領(lǐng)袖共同探討科技創(chuàng)新與人工智能 (AI) 新生態(tài)構(gòu)建。在大會上，Arm 受邀發(fā)表了主題演講，分享端側(cè) AI 的演進趨勢及Arm 最新的 Lumex AI 計算平臺如何助力技術(shù)突破、應(yīng)用創(chuàng)新及生態(tài)合作。

端側(cè) AI 實現(xiàn)“從可選到必需”的躍遷 個性化成核心方向

Arm 終端事業(yè)部智能手機市場高級總監(jiān) Steve Raphael 在演講中指出：“僅一年時間，端側(cè) AI 就已從“可選功能”變?yōu)橛脩簟盎A(chǔ)期待”。2024 年行業(yè)還在探討端側(cè) AI 的落地可能性，2025 年實時智能就已成為移動設(shè)備的“必需品”。AI 不僅能力更強，也變得更具“個性化”，能為每個人提供專屬服務(wù)?！?/p>

這種轉(zhuǎn)變的核心在于快速演進的用戶“個性化”需求與 AI“主動協(xié)作”能力。依托大語言模型 (LLM) 與智能體 AI (Agentic AI) 的發(fā)展，當(dāng)前端側(cè) AI 已經(jīng)可以自主完成推理、規(guī)劃與任務(wù)執(zhí)行：從梳理工作流、實時翻譯，到預(yù)判用戶潛在需求，甚至主動生成旅行方案、會議紀要，整個過程絲滑流暢。這種更懂用戶的“無感化智能交互”，正是端側(cè) AI 的終極目標。

SME2 + KleidiAI 技術(shù)；加速端側(cè) AI 性能優(yōu)化

如今，智能手機已成為端側(cè) AI 的核心入口，深度承載著用戶生活、工作中的海量任務(wù)。與此同時，智能系統(tǒng)對“即時響應(yīng)、隨時可用、隱私安全、低功耗”的需求日益迫切，傳統(tǒng)計算模型在應(yīng)對這類實時化、個性化的智能訴求時，已逐漸顯現(xiàn)出適配短板。為助力合作伙伴突破行業(yè)挑戰(zhàn)、匹配產(chǎn)業(yè)發(fā)展核心需求，Arm 最新推出“AI 優(yōu)先”的 Lumex 計算平臺。該平臺通過硬件、軟件及工具等層面的協(xié)同創(chuàng)新，幫助開發(fā)者更高效地實現(xiàn)端側(cè) AI 功能突破，最終為智能手機用戶帶來更優(yōu)質(zhì)的體驗升級。

硬件層面，作為智能手機的智慧中樞，CPU 在端側(cè) AI 中發(fā)揮著關(guān)鍵作用，得益于其強大的“通用計算”特性，開發(fā)者更傾向于將工作負載保留在 CPU 上，僅將真正需要的部分遷移到其他硬件。Arm Lumex 計算平臺搭載了 Arm 最新 C1 系列 CPU——也是首批基于 Armv9.3 架構(gòu)的 CPU 系列產(chǎn)品。作為 Lumex 平臺最亮眼的技術(shù)之一，SME2 技術(shù)為 C1 CPU 帶來顛覆性提升：處理 AI 工作負載的速度較前代提升五倍，能效提升三倍，在耗時低于 100 毫秒的輕量任務(wù)中，其性能甚至超越了傳統(tǒng) GPU。值得關(guān)注的是，SME2 技術(shù)在實現(xiàn)性能突破的同時，并未增加開發(fā)者的技術(shù)適配門檻，反而有效降低了端側(cè) AI 功能的開發(fā)與落地成本。

軟件層面，Arm 于 2024 年推出了 KleidiAI 輕量級軟件，這是一款面向 AI 框架開發(fā)者的輕量級內(nèi)核庫，能夠在無可比擬的規(guī)模下，為廣泛的技術(shù)市場以及各類基于 Arm 架構(gòu)的設(shè)備——從早期搭載 Neon 技術(shù)的設(shè)備到最新 Lumex 平臺——提供 AI 模型和工作負載的無縫性能優(yōu)化。目前，KleidiAI 已集成至所有主流移動操作系統(tǒng)及 AI 框架中，包括 PyTorch ExecuTorch、谷歌 LiteRT、阿里巴巴 MNN 及微軟 ONNX Runtime，并已在 Android 與 iOS 系統(tǒng)中廣泛應(yīng)用。借助 KleidiAI，開發(fā)者無需修改任何代碼，即可自動取得 SME2 的加速能力，為 Arm 生態(tài)中 2,200 萬開發(fā)者提供高效便捷的端側(cè) AI 開發(fā)支持，并顯著降低技術(shù)應(yīng)用門檻與開發(fā)成本。

此外，Arm Lumex 平臺通過“自頂向下”的方法和工具，幫助開發(fā)者快速定位不同 CPU 的性能問題，實現(xiàn)跨平臺的一致體驗優(yōu)化。

支付寶、淘寶等應(yīng)用率先落地 解決端側(cè) AI 真實用戶痛點

對開發(fā)者而言，技術(shù)最終要落地到實際應(yīng)用場景。演講中，Steve Raphael 分享了 SME2 技術(shù)在國內(nèi)應(yīng)用場景的落地案例，印證了端側(cè) AI“從技術(shù)到價值”的轉(zhuǎn)化路徑。在支付寶應(yīng)用中，SME2 為“回憶視頻”功能提供強大的支持，可自動將用戶相冊照片生成為動態(tài)視頻集錦；在淘寶應(yīng)用場景下，SME2 助力實現(xiàn)“端側(cè)實時電商重排序”，通過 LLM 精準匹配用戶偏好，同時支撐“拍照購物”功能——用戶拍下商品圖片后，可即時檢索同款，大幅縮短購物鏈路。

此外，Arm 與谷歌合作優(yōu)化 Android AICore 組件（賦能 Gemini Nano 模型），將智能回復(fù)等功能的安全模型延遲降低 20%；與 Stability AI 聯(lián)合開發(fā)的 Stable Audio Open 音頻生成模型，通過 CPU 混合浮點與整數(shù)數(shù)據(jù)處理的優(yōu)勢，在手機端實現(xiàn)“文本生成音頻”，且功耗遠低于 GPU 方案。

與生態(tài)伙伴協(xié)同創(chuàng)新端側(cè) AI 進入“共生時代”

端側(cè) AI 的下一個階段，已不是性能參數(shù)的比拼，而是生態(tài)協(xié)同的較量。Arm 的技術(shù)探索始終以“開放協(xié)作”為核心，與硬件、軟件和應(yīng)用領(lǐng)域的生態(tài)伙伴緊密協(xié)作，充分釋放端側(cè) AI 在實際場景中的應(yīng)用潛力，其中與 OPPO 的合作便是業(yè)界典范。目前，Arm 已與 OPPO 深度合作，將 SME2 技術(shù)集成至 OPPO 的 AI 框架中，在顯著提升 AI 性能優(yōu)化和開發(fā)效率的同時，有效降低了 OPPO 生態(tài)開發(fā)者的技術(shù)門檻。

SME2 已在端側(cè) AI 領(lǐng)域產(chǎn)生了實際影響——無論是性能還是準確率，都實現(xiàn)了顯著提升。目前，Arm 正積極將 SME2 技術(shù)擴展至每一個 CPU 平臺。預(yù)計到 2030 年，SME 與 SME2 技術(shù)將為超過 30 億臺設(shè)備新增超 100 億 TOPS 的計算能力，持續(xù)降低端側(cè) AI 的部署成本與隱私風(fēng)險。

回應(yīng) OPPO 開發(fā)者大會“共建 AI 新生態(tài)”的理念，Steve Raphael 表示，Arm 將持續(xù)以 SME2、KleidiAI 等技術(shù)為支點，與生態(tài)伙伴攜手，推動端側(cè) AI 從“單點創(chuàng)新”走向“生態(tài)共生”，最終讓端側(cè) AI 體驗惠及每一位用戶。