完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>
標(biāo)簽 > 大模型
以大模型作為基礎(chǔ)模型支撐AI產(chǎn)業(yè)應(yīng)用邏輯已經(jīng)被證明實用性,AI大模型為AI落地應(yīng)用提供了一種通用化的解決方案;各自各樣參數(shù)不一、面向不同行業(yè)、面向不同任務(wù)的“大模型”也陸續(xù)發(fā)布,大模型已經(jīng)成為整個AI 界追逐的寵兒,AI大模型有效果好、泛化性強、研發(fā)流程標(biāo)準(zhǔn)化程度高等特點。
文章:3316個 瀏覽:4790次 帖子:22個
在科技日新月異的今天,人工智能(AI)已成為推動社會進步的重要力量。而在人工智能的眾多分支中,大模型(Large Models)作為近年來興起的概念,以...
隨著BERT、GPT等預(yù)訓(xùn)練模型取得成功,預(yù)訓(xùn)-微調(diào)范式已經(jīng)被運用在自然語言處理、計算機視覺、多模態(tài)語言模型等多種場景,越來越多的預(yù)訓(xùn)練模型取得了優(yōu)異的效果。
基于AX650N/AX630C部署端側(cè)大語言模型Qwen2
本文將分享如何將最新的端側(cè)大語言模型部署到超高性價比SoC上,向業(yè)界對端側(cè)大模型部署的開發(fā)者提供一種新的思路。
用DeepSeek-R1實現(xiàn)自動生成Manim動畫
? 作者:算力魔方創(chuàng)始人/英特爾創(chuàng)新大使劉力 前面我們分享了在本地運行能與OpenAI-o1 能力相媲美的DeepSeek-R1 模型。本文將介紹如何使...
Rust目前在GPU編程生態(tài)方面的現(xiàn)狀和前景
各種 GL API 的純軟實現(xiàn),當(dāng)沒有可用的硬件時,它可以提供純軟件的 GL API 的實現(xiàn); 它可以用于 Linux/Windows/Mac 等...
英偉達 H100 vs 蘋果M2 大模型訓(xùn)練,哪款性價比更高?
訓(xùn)練和微調(diào)大型語言模型對于硬件資源的要求非常高。目前,主流的大模型訓(xùn)練硬件通常采用英特爾的CPU和英偉達的GPU。然而,最近蘋果的M2 Ultra芯片和...
小白學(xué)大模型:大模型加速的秘密 FlashAttention 1/2/3
在Transformer架構(gòu)中,注意力機制的計算復(fù)雜度與序列長度(即文本長度)呈平方關(guān)系()。這意味著,當(dāng)模型需要處理更長的文本時(比如從幾千個詞到幾萬...
基于Transformer做大模型預(yù)訓(xùn)練基本的并行范式
在之前的內(nèi)容中,我們已經(jīng)介紹過流水線并行、數(shù)據(jù)并行(DP,DDP和ZeRO)。 今天我們將要介紹最重要,也是目前基于Transformer做大模型預(yù)訓(xùn)練...
2023-05-31 標(biāo)簽:數(shù)據(jù)API模型 4k 0
大模型系列:Flash Attention V2整體運作流程
基于1.1中的思想,我們在V2中將原本的內(nèi)外循環(huán)置換了位置(示意圖就不畫了,基本可以對比V1示意圖想象出來)。我們直接來看V2的偽代碼(如果對以下偽代碼...
一般而言,越復(fù)雜的任務(wù),越充裕的資源,應(yīng)該是各自用更加專業(yè)的方案來做各自的上限才會比較高,大模型能提供的,是一個基礎(chǔ)的、快速的、zero shot或者f...
自動駕駛中Transformer大模型會取代深度學(xué)習(xí)嗎?
[首發(fā)于智駕最前沿微信公眾號]近年來,隨著ChatGPT、Claude、文心一言等大語言模型在生成文本、對話交互等領(lǐng)域的驚艷表現(xiàn),“Transforme...
2025-08-13 標(biāo)簽:自動駕駛深度學(xué)習(xí)大模型 3.8k 0
對于Decoder-only的模型,計算量(Flops), 模型參數(shù)量, 數(shù)據(jù)大小(token數(shù)),三者滿足:。(推導(dǎo)見本文最后) 模型的最終性能...
開放加速規(guī)范AI服務(wù)器的設(shè)計方法
當(dāng)前語言大模型的參數(shù)量已達千億以上,訓(xùn)練數(shù)據(jù)集的規(guī)模也達到了TB級別。業(yè)界典型的自然語言大模型有GPT、LLAMA、PaLM、文心、悟道、源等。如果用“...
2023-09-01 標(biāo)簽:服務(wù)器AI計算系統(tǒng) 3.7k 0
什么是大模型的badcase?如何修復(fù)大模型的badcase呢?
首先我們定義什么是大模型的badcase,大模型badcase是指在應(yīng)用場景中,出現(xiàn)不符合預(yù)期的答復(fù)。但實際上不符合預(yù)期的答復(fù)可能多種多樣,原因也各不相...
如何在SAM時代下打造高效的高性能計算大模型訓(xùn)練平臺
Segment Anything Model (SAM)是Meta 公司最近推出的一個創(chuàng)新AI 模型,專門用于計算機視覺領(lǐng)域圖像分割任務(wù)。借鑒ChatG...
編輯推薦廠商產(chǎn)品技術(shù)軟件/工具OS/語言教程專題
電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
伺服電機 | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術(shù) | Microchip |
Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
DuerOS | Brillo | Windows11 | HarmonyOS |