小白必讀：到底什么是FP32、FP16、INT8？

網(wǎng)上關(guān)于算力的文章，如果提到某個(gè)芯片或某個(gè)智算中心的算力，都會(huì)寫：在FP32精度下，英偉達(dá)H100的算力大約為0.9PFlops。在FP16精度下，某智...

2025-10-20 標(biāo)簽：芯片算力智算中心 52 0

如何看懂GPU架構(gòu)？一分鐘帶你了解GPU參數(shù)指標(biāo)

GPU架構(gòu)參數(shù)如CUDA核心數(shù)、顯存帶寬、TensorTFLOPS、互聯(lián)方式等，并非“冰冷的數(shù)字”，而是直接關(guān)系設(shè)備能否滿足需求、如何發(fā)揮最大價(jià)值、是否...

2025-10-09 標(biāo)簽：gpu算力 163 0

6TOPS算力驅(qū)動(dòng)30億參數(shù)LLM，米爾RK3576部署端側(cè)多模態(tài)多輪對(duì)話

關(guān)鍵詞：瑞芯微RK3576、NPU（神經(jīng)網(wǎng)絡(luò)處理器）、端側(cè)小語言模型（SLM）、多模態(tài)LLM、邊緣AI部署、開發(fā)板當(dāng)GPT-4o用毫秒級(jí)響應(yīng)處理圖文混合...

2025-09-04 標(biāo)簽：算力米爾電子LLM 4k 0

“算存平衡”有多重要？

本文轉(zhuǎn)自：未來網(wǎng)絡(luò)集團(tuán)當(dāng)你用手機(jī)刷短視頻時(shí)，AI算法需要快速分析畫面內(nèi)容；當(dāng)你喊‘小愛同學(xué)’喚醒語音助手時(shí)，設(shè)備需要在毫秒內(nèi)處理語音指令——這些看似簡(jiǎn)單...

2025-07-11 標(biāo)簽：AI算法算力大模型 309 0

計(jì)算精度對(duì)比：FP64、FP32、FP16、TF32、BF16、int8

本文轉(zhuǎn)自：河北人工智能計(jì)算中心在當(dāng)今快速發(fā)展的人工智能領(lǐng)域，算力成為決定模型訓(xùn)練與推理速度的關(guān)鍵因素之一。為了提高計(jì)算效率，不同精度的數(shù)據(jù)類型應(yīng)運(yùn)而生，...

2025-06-26 標(biāo)簽：人工智能算力 1.6k 0

佩特科技RK3588開發(fā)板產(chǎn)品介紹

在AIoT（人工智能物聯(lián)網(wǎng)）與邊緣計(jì)算浪潮席卷全球的今天，企業(yè)對(duì)硬件平臺(tái)的性能、靈活性、開發(fā)效率提出了更高要求。如何縮短產(chǎn)品從原型到量產(chǎn)的周期？如何以更...

2025-06-14 標(biāo)簽：開發(fā)板算力RK3588 556 0

寒武紀(jì)基于思元370芯片的MLU370-X8 智能加速卡產(chǎn)品手冊(cè)詳解

MLU370-X8智能加速卡是全面升級(jí)的數(shù)據(jù)中心訓(xùn)推一體AI加速卡，基于寒武紀(jì)全新一代思元370芯片，接口為PCIe 4.0 X16，是全高全長(zhǎng)雙寬（F...

2025-04-24 標(biāo)簽：加速卡寒武紀(jì)AI芯片 3.4k 0

搭建算力中心，從了解的GPU 特性開始

ABSTRACT摘要本文介紹如何搭建算力，并介紹A100、H100、H200和B200這些GPU的特性。JAEALOT2025年4月23日隨著人工智能、...

2025-04-24 標(biāo)簽：gpu算力 2.5k 0

長(zhǎng)工微電子12相雙路輸出控制器IS6203A解決方案

2025年春節(jié)，DeepSeek發(fā)布全新AI模型R1，以千億級(jí)參數(shù)規(guī)模突破中國(guó)大模型技術(shù)邊界，標(biāo)志著算力驅(qū)動(dòng)型人工智能進(jìn)入產(chǎn)業(yè)化深水區(qū)。在以GPU、CP...

2025-04-11 標(biāo)簽：控制器gpu電流電源 899 0

算力領(lǐng)域常用名詞解釋

本文系統(tǒng)地整理和解釋了算力領(lǐng)域中常用的數(shù)十個(gè)關(guān)鍵名詞，并按照以下維度進(jìn)行了分類：基礎(chǔ)概念、系統(tǒng)架構(gòu)、硬件架構(gòu)、基礎(chǔ)運(yùn)算類型、計(jì)算模式、相關(guān)軟件架構(gòu)與部署...

2025-04-07 標(biāo)簽：計(jì)算機(jī)算力 948 0

詳解RAD端到端強(qiáng)化學(xué)習(xí)后訓(xùn)練范式

受限于算力和數(shù)據(jù)，大語言模型預(yù)訓(xùn)練的 scalinglaw 已經(jīng)趨近于極限。DeepSeekR1/OpenAl01通過強(qiáng)化學(xué)習(xí)后訓(xùn)練涌現(xiàn)了強(qiáng)大的推理能力...

2025-02-25 標(biāo)簽：模型強(qiáng)化學(xué)習(xí)地平線 871 0

【一文看懂】什么是端側(cè)算力？

隨著物聯(lián)網(wǎng)（IoT）、人工智能和5G技術(shù)的快速發(fā)展，端側(cè)算力正逐漸成為智能設(shè)備性能提升和智能化應(yīng)用實(shí)現(xiàn)的關(guān)鍵技術(shù)。什么是端側(cè)算力，它的應(yīng)用價(jià)值是什么，與...

2025-02-24 標(biāo)簽：智能設(shè)備深度神經(jīng)網(wǎng)絡(luò)算力 2.4k 0

智能座艙SoC算力評(píng)估及應(yīng)用總結(jié)

本文轉(zhuǎn)自：智能座艙產(chǎn)業(yè)聯(lián)盟精確評(píng)估SoC算力的必要性智能座艙的系統(tǒng)穩(wěn)定性、用戶體驗(yàn)和性能表現(xiàn)都依賴于SoC（系統(tǒng)級(jí)芯片）的計(jì)算能力。為了實(shí)現(xiàn)最佳性能，系...

2025-01-15 標(biāo)簽：soc算力智能座艙 1.7k 0

杰和課堂|帶你認(rèn)識(shí)算力

杰和課堂|帶你認(rèn)識(shí)算力人工智能浪潮洶涌的今天，算力一詞頻繁出現(xiàn)在各類科技新聞、產(chǎn)業(yè)發(fā)展報(bào)告中。了解過杰和科技產(chǎn)品的讀者們，也會(huì)在杰和各產(chǎn)品參數(shù)中發(fā)現(xiàn)算力...

2024-12-06 標(biāo)簽：AI人工智能算力 1.8k 0

FP8數(shù)據(jù)格式在大型模型訓(xùn)練中的應(yīng)用

本文主要介紹了 FP8 數(shù)據(jù)格式在大型模型訓(xùn)練中的應(yīng)用、挑戰(zhàn)及最佳實(shí)踐，展示了 FP8 在提升訓(xùn)練速度和效率方面的潛力和實(shí)際效果。

2024-11-19 標(biāo)簽：NVIDIA數(shù)據(jù)格式模型 2.9k 0

存算一體技術(shù)的分類

近年間，云計(jì)算與人工智能技術(shù)的蓬勃興起，計(jì)算中心面臨著數(shù)據(jù)效率低、能耗大等核心挑戰(zhàn)，這促使學(xué)術(shù)界和工業(yè)界重新聚焦。

2024-11-05 標(biāo)簽：處理器存儲(chǔ)器算力 1.9k 0

【一文看懂】大白話解釋“GPU與GPU算力”

隨著大模型的興起，“GPU算力”這個(gè)詞正頻繁出現(xiàn)在人工智能、游戲、圖形設(shè)計(jì)等工作場(chǎng)景中，什么是GPU，它與CPU的區(qū)別是什么？以及到底什么是GPU算力？...

2024-10-29 標(biāo)簽：cpugpu算力 3.8k 0

使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型

前面我們分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日，Meta又發(fā)布了Llama3.2：一個(gè)多語言大型語言模型（LLM...

2024-10-12 標(biāo)簽：模型Meta算力 1.8k 0

算力服務(wù)器為什么選擇GPU

隨著人工智能技術(shù)的快速普及，算力需求日益增長(zhǎng)。智算中心的服務(wù)器作為支撐大規(guī)模數(shù)據(jù)處理和計(jì)算的核心設(shè)備，其性能優(yōu)化顯得尤為關(guān)鍵。而GPU服務(wù)器也進(jìn)入了大眾...

2024-07-25 標(biāo)簽：cpugpu服務(wù)器 1.7k 0

中國(guó)AI長(zhǎng)卷（一）：大國(guó)重算

AI為沃土，智算是長(zhǎng)城

2024-07-23 標(biāo)簽：半導(dǎo)體AI人工智能 2k 0