18video性欧美19sex,欧美高清videosddfsexhd,性少妇videosexfreexxx片中国,激情五月激情综合五月看花,亚洲人成网77777色在线播放

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Arm為何是擴展AI技術(shù)棧的理想之選

Arm社區(qū) ? 來源:Arm社區(qū) ? 2025-10-18 14:54 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

隨著人工智能 (AI) 在數(shù)據(jù)中心、終端設(shè)備及各類中間場景中迅速普及,當(dāng)前的核心挑戰(zhàn)已不再是打造智能計算本身,而是構(gòu)建支撐其規(guī)?;瘧?yīng)用所需的基礎(chǔ)設(shè)施。

AI 并非單一維度的問題,而是一個由全球領(lǐng)先的科技企業(yè)共同塑造的龐大生態(tài)系統(tǒng)。在這場價值數(shù)萬億美元級別的產(chǎn)業(yè)變革中,Arm 架構(gòu)持續(xù)脫穎而出。

AI 數(shù)據(jù)中心:

由行業(yè)領(lǐng)袖企業(yè)定義,以 Arm 技術(shù)為基石

AI 領(lǐng)域的領(lǐng)軍企業(yè),如 NVIDIA、亞馬遜云科技 (AWS)、微軟、Google、Oracle 和 OpenAI 正與 Arm 攜手,共同推動下一代數(shù)據(jù)中心的建設(shè)。據(jù)估計,為了滿足模型訓(xùn)練、推理和具有成本效益的規(guī)?;瘮U展需求,AI 基礎(chǔ)設(shè)施領(lǐng)域的投資將突破萬億美元級別。

預(yù)計到 2025 年,出貨到頭部超大規(guī)模云服務(wù)提供商的算力中,將有近 50% 是基于 Arm 架構(gòu)。目前,AWS (Graviton)、Google Cloud (Axion) 和 Microsoft Azure (Cobalt) 均已在其云基礎(chǔ)設(shè)施中部署了基于 Arm 架構(gòu)的芯片,從而顯著節(jié)省能源和成本,并提升可擴展性。NVIDIA 的 Grace CPU 基于 Arm Neoverse 平臺構(gòu)建,是 NVIDIA Grace Blackwell AI 超級芯片的核心組件;該超級芯片廣受市場青睞,僅全球前四大超大規(guī)模云服務(wù)提供商就已訂購 360 萬顆。事實上,目前已有超過 10 億顆基于 Arm Neoverse 平臺的 CPU 部署至數(shù)據(jù)中心,這一數(shù)據(jù)充分凸顯了 Arm 架構(gòu)在全球數(shù)據(jù)中心建設(shè)中的核心地位。

在當(dāng)今先進的 AI 數(shù)據(jù)中心技術(shù)棧中,Arm 架構(gòu)作為普遍采用的基礎(chǔ)平臺,提供了傳統(tǒng)架構(gòu)難以企及的可擴展性、效率和靈活性,其性價比和能效優(yōu)勢包括:

與 x86 系統(tǒng)相比,NVIDIA 的 Grace-Hopper 超級芯片的模型訓(xùn)練速度提升高達 8 倍,LLM 推理性能提升高達 4.5 倍[1]。

與 x86 相比,Google 的 Axion 推薦性能提升高達 3 倍[2],推理能力提升 2.5 倍,同時成本降低達 64%[3]。

截至 2024 年 12 月,AWS EC2 云服務(wù)的算力中,超過 50% 基于 AWS Graviton 所構(gòu)建[4]。

此外,根據(jù)咨詢公司 Signal65 近期的分析報告顯示,基于 Arm Neoverse 平臺的 AWS Graviton4 芯片,不僅在性價比方面領(lǐng)先業(yè)界,更在企業(yè)級工作負載的整體性能上遠超 AMD英特爾推出的同類 x86 芯片。例如,Signal65 的基準(zhǔn)測試結(jié)果表明,Graviton4 的大語言模型 (LLM) 推理性能比 AMD 同類產(chǎn)品高 168%,性價比高 220%;同時網(wǎng)絡(luò)吞吐量比英特爾同類產(chǎn)品高出 53%,機器學(xué)習(xí) (ML) 訓(xùn)練速度快于 34%。這些數(shù)據(jù)充分印證了 Arm 在 AI 和通用計算任務(wù)方面的顯著架構(gòu)優(yōu)勢。

從云端到邊緣側(cè),AI 亟需新型計算平臺

AI 正在突破數(shù)據(jù)中心的邊界,向更廣闊的應(yīng)用場景延伸。如今,無論是智能手機、個人電腦 (PC) 還是物聯(lián)網(wǎng)設(shè)備——小至低功耗傳感器,大到高性能工業(yè)應(yīng)用——都需要端側(cè)生成式 AI 來重塑用戶體驗。

在此趨勢下,Arm 同樣獨具優(yōu)勢。面向消費電子設(shè)備的全新Arm Lumex 計算子系統(tǒng) (CSS) 平臺,可支持智能助手、語音翻譯和個性化服務(wù)等實時端側(cè) AI 應(yīng)用場景,而搭載 SME2 技術(shù)的全新 Arm CPU則可實現(xiàn)高達 5 倍的 AI 性能提升。同時,全球首個基于 Armv9 架構(gòu)的邊緣 AI 計算平臺,專為物聯(lián)網(wǎng)應(yīng)用中的邊緣 AI 工作負載優(yōu)化,可支持參數(shù)規(guī)模超 10 億的端側(cè) AI 模型運行。

Arm 正在驅(qū)動一場從云端到邊緣端的變革,憑借其本身的架構(gòu)優(yōu)勢賦能全場景的規(guī)?;渴?。

軟件鑄就差異化優(yōu)勢,Arm 工具為 AI 時代賦能

在 AI 領(lǐng)域,硬件構(gòu)筑底層基礎(chǔ),而軟件決定用戶體驗。隨著 AI 工作負載日益復(fù)雜、應(yīng)用場景不斷拓展,開發(fā)者亟需一個能夠緊跟創(chuàng)新步伐的生態(tài)系統(tǒng)。而這正是 Arm 的優(yōu)勢所在:一套統(tǒng)一的架構(gòu),搭配從云端到邊緣端、強大且經(jīng)過優(yōu)化的軟件生態(tài)系統(tǒng)。

多達 2,200 萬規(guī)模的 Arm 開發(fā)者群體將受益于這一協(xié)同生態(tài)系統(tǒng),無論是數(shù)據(jù)中心的大規(guī)模模型訓(xùn)練,還是邊緣側(cè)的實時推理,相同的代碼、工具與框架均可在不同設(shè)備上無縫運行。這種架構(gòu)一致性顯著加速開發(fā)進程,簡化優(yōu)化路徑,實現(xiàn)更廣泛的部署落地,避免冗余工程投入。

PyTorch ExecuTorch、TensorFlow Lite 和MediaPipe等主要框架,現(xiàn)已通過 Arm KleidiAI 與基于 Arm 架構(gòu)的系統(tǒng)實現(xiàn)深度集成和優(yōu)化。Arm KleidiAI 是輕量級的開源優(yōu)化層,可激活基于 Arm 架構(gòu)進行優(yōu)化的底層微內(nèi)核。如此一來,開發(fā)者無需修改代碼即可自動獲取性能增益——從超大規(guī)模云平臺到智能手機、嵌入式設(shè)備,全場景適用。

例如,在 Graviton4 上,KleidiAI 的集成使 Llama 3 的詞元 (token) 首次響應(yīng)時間較基準(zhǔn)提升了 2.5 倍;而在移動端,基于 MediaPipe 的方案在 Gemma 2B 等模型上,也實現(xiàn)了高達 30% 的性能提升。無論是管理 AI 工廠,還是在邊緣側(cè)部署聊天機器人,開發(fā)者均可獲得可預(yù)測、高性能和高能效的軟件體驗。

這種無縫、具備系統(tǒng)感知能力的軟件賦能方式,正是 Arm 平臺的核心差異化所在。開發(fā)者無需應(yīng)對碎片化技術(shù)棧的困擾,也無需重復(fù)開展后端重構(gòu)工作;相反,他們能夠直接借助這套軟硬件協(xié)同設(shè)計的生態(tài)系統(tǒng),實現(xiàn) AI 的性能和效率優(yōu)勢。

在“每瓦性能”至關(guān)重要的 AI 時代,Arm 的軟件生態(tài)系統(tǒng)不僅緊跟行業(yè)需求,更能貼合開發(fā)者的實際場景,加速其創(chuàng)新進程。

AI 規(guī)?;l(fā)展的核心支柱

從萬億美元級的數(shù)據(jù)中心,到下一代智能手機與智能車載系統(tǒng),AI 正在以前所未有的規(guī)模快速發(fā)展。作為貫通這些場景的橋梁,Arm 架構(gòu)正發(fā)揮著關(guān)鍵作用。

憑借超大規(guī)模云服務(wù)提供商的廣泛部署、靈活的邊緣計算能力,以及充滿活力、AI 就緒的軟件生態(tài)系統(tǒng),Arm 已成為當(dāng)下和未來 AI 基礎(chǔ)設(shè)施的核心支柱。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • ARM
    ARM
    +關(guān)注

    關(guān)注

    135

    文章

    9462

    瀏覽量

    386427
  • cpu
    cpu
    +關(guān)注

    關(guān)注

    68

    文章

    11192

    瀏覽量

    221679
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    37125

    瀏覽量

    291178

原文標(biāo)題:從云端到邊緣,Arm 為何是擴展 AI 技術(shù)棧的理想之選

文章出處:【微信號:Arm社區(qū),微信公眾號:Arm社區(qū)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    AI應(yīng)用創(chuàng)新與全技術(shù)融合分論壇即將召開

    2025開放原子開源生態(tài)大會即將啟幕,其中 “AI應(yīng)用創(chuàng)新與全技術(shù)融合分論壇”將于 7月24日重磅亮相。論壇聚焦人工智能技術(shù)與開源生態(tài)的深度融合,邀請各領(lǐng)域用戶、
    的頭像 發(fā)表于 07-23 09:54 ?554次閱讀

    NVIDIA全加速代理式AI應(yīng)用落地

    在近期舉辦的 AWS 中國峰會上,NVIDIA 聚焦于“NVIDIA 全加速代理式 AI 應(yīng)用落地”,深入探討了代理式 AI (Agentic AI)
    的頭像 發(fā)表于 07-14 11:41 ?878次閱讀

    芯茂微 LP2179B:小家電電源的理想

    能成為行業(yè)理想。一、核心優(yōu)勢:高性能,易設(shè)計高集成度:內(nèi)置800V功率管、峰值電流控制模塊與啟動電路,省掉CS電阻和啟動電阻,簡化電路、降本增效。穩(wěn)壓輸出:恒壓控制
    的頭像 發(fā)表于 07-09 18:11 ?384次閱讀
    芯茂微 LP2179B:小家電電源的<b class='flag-5'>理想</b><b class='flag-5'>之</b><b class='flag-5'>選</b>

    MacBook擴展塢怎么?

    蕞近經(jīng)常有小伙伴問我:MacBook接口太少了,要怎么擴展塢才不會踩雷? 作為一名用了幾代Mac的老用戶,今天就來聊聊我擴展塢的一點小心得 一、你真的需要
    的頭像 發(fā)表于 04-21 16:01 ?668次閱讀

    愛普生FC1610AN5G手機中替代傳統(tǒng)晶振的理想

    時鐘信號的關(guān)鍵元件,其性能優(yōu)劣直接影響手機整體表現(xiàn)。愛普生FC1610AN晶振以諸多卓越優(yōu)勢,正逐步成為5G手機中替代傳統(tǒng)晶振的理想。愛普生晶振FC1610AN在
    的頭像 發(fā)表于 04-11 14:44 ?473次閱讀
    愛普生FC1610AN5G手機中替代傳統(tǒng)晶振的<b class='flag-5'>理想</b><b class='flag-5'>之</b><b class='flag-5'>選</b>

    Banana Pi 發(fā)布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 計算與嵌入式開發(fā)

    存儲設(shè)計,輕松應(yīng)對復(fù)雜AI模型與實時推理。其堅固耐用的工業(yè)級品質(zhì)與超低成本,不僅適應(yīng)嚴苛環(huán)境的應(yīng)用,更為工程師提供了極致靈活的開發(fā)體驗,堪稱推動開源生態(tài)與人工智能未來的標(biāo)桿?!?瑞薩系統(tǒng)解決方案部
    發(fā)表于 03-19 17:54

    Arm Kleidi擴展到汽車市場 Arm Kleidi實現(xiàn)性能自動優(yōu)化

    Arm 控股有限公司(納斯達克股票代碼:ARM,以下簡稱“Arm”)近日宣布將 Arm Kleidi 技術(shù)
    的頭像 發(fā)表于 03-14 15:36 ?1216次閱讀

    Arm推出GitHub Copilot新擴展程序,助力快速遷移至Arm架構(gòu)服務(wù)器

    Arm控股有限公司(納斯達克股票代碼:ARM,以下簡稱“Arm”)宣布其已正式推出專為GitHubCopilot設(shè)計的新擴展程序。GitHubCopilot是全球部署最廣泛的人工智能(
    的頭像 發(fā)表于 03-04 16:07 ?778次閱讀
    <b class='flag-5'>Arm</b>推出GitHub Copilot新<b class='flag-5'>擴展</b>程序,助力快速遷移至<b class='flag-5'>Arm</b>架構(gòu)服務(wù)器

    Arm推出GitHub Copilot新擴展程序

    工智能 (AI) 開發(fā)者工具之一,此次推出的擴展程序能讓數(shù)百萬 Copilot 用戶更容易地訪問 Arm 架構(gòu)的技術(shù),并為開發(fā)者提供更友好的體驗。此外,此次發(fā)布亦首次為全球開發(fā)者免費提
    的頭像 發(fā)表于 02-24 10:14 ?786次閱讀

    理想汽車申請“理想AI Talk”商標(biāo)

    近日,北京理想汽車有限公司正式向國家知識產(chǎn)權(quán)局提交了一枚名為“理想AI Talk”的商標(biāo)注冊申請。該商標(biāo)被歸類于教育娛樂領(lǐng)域,目前正處于等待實質(zhì)審查的階段。 據(jù)了解,北京理想汽車有限公
    的頭像 發(fā)表于 01-20 10:30 ?1069次閱讀

    國產(chǎn)低噪聲全差分放大器SC7516——AD8138的理想替代

    國產(chǎn)低噪聲全差分放大器SC7516——AD8138的理想替代
    的頭像 發(fā)表于 01-14 10:03 ?1431次閱讀
    國產(chǎn)低噪聲全差分放大器SC7516——AD8138的<b class='flag-5'>理想</b>替代<b class='flag-5'>之</b><b class='flag-5'>選</b>

    Arm平臺引領(lǐng)AI云計算革新

    我們正處于一個由人工智能 (AI) 定義的計算時代,其轉(zhuǎn)型速度空前迅速。Arm 一直致力于通過工程創(chuàng)新和技術(shù)發(fā)展,以可持續(xù)且可擴展的方式加速 AI
    的頭像 發(fā)表于 01-03 15:26 ?928次閱讀

    易飛揚O-BAND DWDM:卓越性能,理想

    O-BAND DWDM光模塊及系統(tǒng)等。讓我們一起探索為何易飛揚O-BAND DWDM解決方案可以成為您的理想選擇。
    的頭像 發(fā)表于 12-23 15:13 ?758次閱讀
    易飛揚O-BAND DWDM:卓越性能,<b class='flag-5'>理想</b><b class='flag-5'>之</b><b class='flag-5'>選</b>

    TNC接頭:為什么是射頻連接的穩(wěn)固

    德索工程師說道TNC接頭,作為射頻連接領(lǐng)域的穩(wěn)固,憑借其卓越的性能和可靠性,在眾多應(yīng)用場景中扮演著不可或缺的角色。本文將從多個維度深入剖析TNC接頭為何成為射頻連接的穩(wěn)固
    的頭像 發(fā)表于 12-18 13:45 ?1023次閱讀
    TNC接頭:為什么是射頻連接的穩(wěn)固<b class='flag-5'>之</b><b class='flag-5'>選</b>

    Arm推出GitHub平臺AI工具,簡化開發(fā)者AI應(yīng)用開發(fā)部署流程

    專為 GitHub Copilot 設(shè)計的 Arm 擴展程序,可加速從云到邊緣側(cè)基于 Arm 平臺的開發(fā)。 Arm 原生運行器為部署云原生、Windows on
    的頭像 發(fā)表于 10-31 18:51 ?3598次閱讀