18video性欧美19sex,欧美高清videosddfsexhd,性少妇videosexfreexxx片中国,激情五月激情综合五月看花,亚洲人成网77777色在线播放

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AI芯片全面發(fā)展!從訓(xùn)練到推理、從云端到邊緣、從GPU到ASIC

Carol Li ? 來源:電子發(fā)燒友原創(chuàng) ? 作者:李彎彎 ? 2021-11-13 09:24 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報道(文/李彎彎)在過去接近10年時間里,AI產(chǎn)業(yè)經(jīng)歷了幾個重要節(jié)點,2012年深度學(xué)習(xí)的研究突破,給AI產(chǎn)業(yè)帶來新的起點,2016年Alphago打敗李世石,正式引爆市場,一時間涌現(xiàn)出大量AI創(chuàng)業(yè)企業(yè),資本也大量投進這個賽道。

在短時間火熱之后,湊熱鬧的人逐漸退出,AI產(chǎn)業(yè)繼續(xù)穩(wěn)步向前發(fā)展,最近幾年AI技術(shù)快速發(fā)展,應(yīng)用場景不斷浮現(xiàn),AI產(chǎn)業(yè)也進入到爆發(fā)式增長階段,巨大的市場潛力逐漸顯現(xiàn)出來。據(jù)艾媒咨詢數(shù)據(jù)顯示,2020年中國AI芯片市場規(guī)模達183.8億元,預(yù)計2023年將突破千億級別。

同時AI芯片也逐漸呈現(xiàn)出多元化趨勢,主要體現(xiàn)在幾個方面:一是早期AI芯片更多集中在訓(xùn)練上,如今除了AI訓(xùn)練芯片持續(xù)增長,AI推理芯片的市場規(guī)模也在快速擴大,預(yù)計將超過訓(xùn)練芯片;二是AI芯片過去主要部署在云端,如今已經(jīng)向邊緣端/終端方向發(fā)展;第三,AI芯片有各種類型,其中多數(shù)是GPU,不過很明顯,ASICFPGA等非GPU芯片市場規(guī)模也在逐步提升。

AI推理芯片市場規(guī)模逐步擴大

AI芯片可分為訓(xùn)練和推理兩個環(huán)節(jié),訓(xùn)練環(huán)節(jié)通常需要通過大量的數(shù)據(jù)輸入,或采取增強學(xué)習(xí)等非監(jiān)督學(xué)習(xí)方法,訓(xùn)練出一個復(fù)雜的深度神經(jīng)網(wǎng)絡(luò)模型。推理環(huán)節(jié)指利用訓(xùn)練好的模型,使用新的數(shù)據(jù)去推理出各種結(jié)論,比如,視頻監(jiān)控設(shè)備通過后臺的深度神經(jīng)網(wǎng)絡(luò)模型,判斷一張抓拍到的人臉是否屬于黑名單。

也因此通常也會有AI訓(xùn)練芯片和AI推理芯片,另外還會根據(jù)是部署在云端數(shù)據(jù)中心、邊緣端、還是終端,更細化的分為云端AI訓(xùn)練、云端AI推理、邊緣/終端AI推理芯片。

因為AI訓(xùn)練需要大量的數(shù)據(jù),基本被部署在云端,過去幾年地方政府加快建設(shè)公有云、私有云、數(shù)據(jù)中心,也因此AI訓(xùn)練芯片市場大增,在2018年的時候中國云端AI訓(xùn)練芯片市場份額達到51.3%,中國AI芯片市場規(guī)模也以云端訓(xùn)練芯片為主。

不過隨著大規(guī)模地方性數(shù)據(jù)中心建設(shè)陸續(xù)完成,云端訓(xùn)練芯片增長速度逐步放緩,而隨著各領(lǐng)域市場需求的釋放,云端推理芯片、終端推理芯片市場增長速度呈現(xiàn)上升趨勢,根據(jù)IDC研究發(fā)現(xiàn),2020年中國數(shù)據(jù)中心用于推理的芯片的市場份額已經(jīng)超過50%,預(yù)計到2025年,用于推理的工作負載的芯片將達到60.8%。

邊緣AI芯片市場規(guī)模將超過云端芯片

同時AI芯片正在從云端向邊緣端發(fā)展,IDC&浪潮日前發(fā)布的《2021-2022中國人工智能計算力發(fā)展評估報告》顯示,在新技術(shù)的驅(qū)動下,5G 等連接技術(shù)降低了數(shù)據(jù)的傳輸和處理速度,為了分擔數(shù)據(jù)中心的計算壓力并且也能提高實時響應(yīng)速度,人工智能在邊緣側(cè)的處理將成為企業(yè)的一個關(guān)鍵增長領(lǐng)域。

人工智能在邊緣以及端側(cè)將有廣泛的應(yīng)用場景,從自動駕駛到工業(yè)制造,再到消費者智能家居和可穿戴設(shè)備。據(jù)市場咨詢公司ABI Research的數(shù)據(jù)顯示,預(yù)計到2025年,邊緣AI芯片市場的收入將達到122億美元,云AI芯片市場的收入將達到119億美元,邊緣AI芯片市場將超過云AI芯片組市場。


GPU芯片占比增加,將超過20%

目前AI芯片有3種主流技術(shù)路線,分別是GPU、ASIC以及FPGA。其中GPU芯片被認為更適合用于承擔訓(xùn)練負載,有分析人士指出,目前GPU已經(jīng)發(fā)展到較為成熟的階段。根據(jù)IDC數(shù)據(jù),2021年上半年AI芯片中,GPU依然是實現(xiàn)數(shù)據(jù)中心加速的首選,占有90%以上市場份額。

英偉達是GPU領(lǐng)域的絕對龍頭,占據(jù)了絕大部分市場份額,近幾年國內(nèi)也有多家GPU廠商逐漸成長起來,將其用于AI訓(xùn)練和推理,包括天數(shù)智芯、摩爾線程、沐曦集成、壁仞科技、登臨科技等。

雖然目前GPU仍然占據(jù)主要的市場份額,不過ASIC、FPGA等其他非GPU芯片在各個領(lǐng)域越來越多的被使用,整體市場份額接近10%,預(yù)計到2025年其占比將超過20%,主要原因:一是越來越多的AI初創(chuàng)企業(yè)成長起來,它們很多采用ASIC芯片進行訓(xùn)練和推理;二是GPU較多的被用于云端訓(xùn)練,而隨著云端、邊緣推理芯片市場規(guī)模逐漸擴大,F(xiàn)PGA和ASIC芯片的價值更容易得到體現(xiàn)。

小結(jié)

整體而言,經(jīng)過多年的發(fā)展,AI芯片市場規(guī)模正在快速增長,同時AI芯片也逐漸走向更加多元化,從功能上來看,逐漸從云端AI訓(xùn)練拓展到云端和邊緣端推理,從芯片類型來看,GPU芯片仍然占據(jù)重要位置,而FPGA和ASIC等芯片的價值也得到更多體現(xiàn)。

我們也明顯看到,不少AI芯片企業(yè)開始全面推出產(chǎn)品,或者包括云端訓(xùn)練和推理,或者同時進行云端和邊緣端芯片產(chǎn)品布局,比如寒武紀推出同時支持訓(xùn)練和推理的芯片,燧原在推出云端訓(xùn)練芯片之后,也推出了云端推理芯片,鯤云科技基于CAISA芯片的產(chǎn)品可應(yīng)用于云端和邊緣端推理。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • asic
    +關(guān)注

    關(guān)注

    34

    文章

    1265

    瀏覽量

    123711
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    5050

    瀏覽量

    134009
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    37210

    瀏覽量

    291704
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    需求落地:RISC-V如何重塑下一代AI硬件生態(tài)?

    本文由TechSugar編譯自SemiWiki人工智能(AI)正重塑計算領(lǐng)域的每一個層面,訓(xùn)練萬億參數(shù)模型的超大規(guī)模數(shù)據(jù)中心,運行實時推理
    的頭像 發(fā)表于 10-16 09:06 ?256次閱讀
    <b class='flag-5'>從</b>需求<b class='flag-5'>到</b>落地:RISC-V如何重塑下一代<b class='flag-5'>AI</b>硬件生態(tài)?

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片AGI芯片

    、分布式群體智能 1)物聯(lián)網(wǎng)AGI系統(tǒng) 優(yōu)勢: 組成部分: 2)分布式AI訓(xùn)練 7、發(fā)展重點:基于強化學(xué)習(xí)的后訓(xùn)練推理 8、超越大模型:神
    發(fā)表于 09-18 15:31

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片的需求和挑戰(zhàn)

    的工作嗎? 從書中也了解到了AI芯片都有哪些?像CPU、GPU、FPGA、ASIC都是AI芯片
    發(fā)表于 09-12 16:07

    CPU GPU,渲染技術(shù)如何重塑游戲、影視與設(shè)計?

    渲染技術(shù)是計算機圖形學(xué)的核心內(nèi)容之一,它是將三維場景轉(zhuǎn)換為二維圖像的過程。渲染技術(shù)一直在不斷演進,最初的CPU渲染后來的GPU渲染,性能和質(zhì)量都有了顯著提升。CPU
    的頭像 發(fā)表于 09-01 12:16 ?549次閱讀
    <b class='flag-5'>從</b> CPU <b class='flag-5'>到</b> <b class='flag-5'>GPU</b>,渲染技術(shù)如何重塑游戲、影視與設(shè)計?

    芯片主板,科技創(chuàng)新實現(xiàn)高質(zhì)量發(fā)展

    數(shù)字化時代,科技的迅猛發(fā)展深刻影響著各個領(lǐng)域。芯片主板的集成,生動展現(xiàn)了科技創(chuàng)新如何成為推動高質(zhì)量發(fā)展的核心動力。
    的頭像 發(fā)表于 07-26 16:26 ?526次閱讀

    邊緣AI盒子技術(shù)解析:ASIC/FPGA/GPU芯片邊緣-云端協(xié)同與自適應(yīng)推理

    ? 電子發(fā)燒友網(wǎng)綜合報道 邊緣AI盒子是一種集成了高性能芯片、AI算法和數(shù)據(jù)處理能力的硬件設(shè)備,部署在數(shù)據(jù)源的邊緣側(cè),如工廠、商場、交通路口
    的頭像 發(fā)表于 07-13 08:25 ?3738次閱讀

    陣列云訓(xùn)練到推理

    在云場景下,陣列云(分布式計算集群)模型訓(xùn)練到推理的完整技術(shù)流程可結(jié)構(gòu)化分解如下: 一、訓(xùn)練階段技術(shù)實現(xiàn) 1,資源動態(tài)編排? 基于Kubernetes集群或云廠商彈性計算服務(wù)(如AW
    的頭像 發(fā)表于 03-28 08:32 ?483次閱讀

    邊緣計算 云端計算

    處理數(shù)據(jù),需通過互聯(lián)網(wǎng)傳輸原始數(shù)據(jù)?。 延遲與實時性? 邊緣計算?:毫秒級響應(yīng),適用于自動駕駛、工業(yè)控制等實時場景?。 云端計算?:因網(wǎng)絡(luò)傳輸和集中處理,延遲較高(通常秒級),適合非實時任務(wù)(如數(shù)據(jù)分析、模型訓(xùn)練)?。
    的頭像 發(fā)表于 03-27 08:30 ?583次閱讀
    <b class='flag-5'>從</b><b class='flag-5'>邊緣</b>計算 <b class='flag-5'>到</b><b class='flag-5'>云端</b>計算

    AI推理帶火的ASIC,開發(fā)成敗在此一舉!

    的應(yīng)用性價比遠超GPU,加上博通財報AI業(yè)務(wù)同比大增220%,掀起了AI推理端的ASIC熱潮。 ? 那么
    的頭像 發(fā)表于 03-03 00:13 ?3823次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>帶火的<b class='flag-5'>ASIC</b>,開發(fā)成敗在此一舉!

    CPUGPU:渲染技術(shù)的演進和趨勢

    渲染技術(shù)是計算機圖形學(xué)的核心內(nèi)容之一,它是將三維場景轉(zhuǎn)換為二維圖像的過程。渲染技術(shù)一直在不斷演進,最初的CPU渲染后來的GPU渲染,性能和質(zhì)量都有了顯著提升。一、CPU
    的頭像 發(fā)表于 02-21 11:11 ?1118次閱讀
    <b class='flag-5'>從</b>CPU<b class='flag-5'>到</b><b class='flag-5'>GPU</b>:渲染技術(shù)的演進和趨勢

    數(shù)據(jù)智能:邊緣AI發(fā)展進入新階段,方案部署面臨怎樣的挑戰(zhàn)?

    回顧2024年AI產(chǎn)業(yè)的發(fā)展,AI大模型依然在高歌猛進,不過將AI工作負載云端卸載到終端的趨勢
    的頭像 發(fā)表于 01-15 00:13 ?3028次閱讀
    <b class='flag-5'>從</b>數(shù)據(jù)<b class='flag-5'>到</b>智能:<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b><b class='flag-5'>發(fā)展</b>進入新階段,方案部署面臨怎樣的挑戰(zhàn)?

    科技云報到:大模型云端,“AI+云計算”還能講出什么新故事

    科技云報到:大模型云端,“AI+云計算”還能講出什么新故事
    的頭像 發(fā)表于 01-07 13:27 ?554次閱讀

    《算力芯片 高性能 CPUGPUNPU 微架構(gòu)分析》第3篇閱讀心得:GPU革命:圖形引擎AI加速器的蛻變

    在數(shù)據(jù)挖掘工作中,我經(jīng)常需要處理海量數(shù)據(jù)的深度學(xué)習(xí)任務(wù),這讓我對GPU架構(gòu)和張量運算充滿好奇。閱讀《算力芯片》第7-9章,讓我對這些關(guān)鍵技術(shù)有了全新認識。 GPU架構(gòu)從早期的固定功能流水線,
    發(fā)表于 11-24 17:12

    AI云端計算資源有哪些類型

    AI云端計算資源涵蓋了基礎(chǔ)設(shè)施軟件服務(wù)的多個層面,為AI模型的訓(xùn)練、
    的頭像 發(fā)表于 11-15 09:39 ?822次閱讀

    FPGA和ASIC在大模型推理加速中的應(yīng)用

    隨著現(xiàn)在AI的快速發(fā)展,使用FPGA和ASIC進行推理加速的研究也越來越多,目前的市場來說,有些公司已經(jīng)有了專門做
    的頭像 發(fā)表于 10-29 14:12 ?2464次閱讀
    FPGA和<b class='flag-5'>ASIC</b>在大模型<b class='flag-5'>推理</b>加速中的應(yīng)用