完善資料讓更多小伙伴認(rèn)識你，還能領(lǐng)取20積分哦，立即完善>
標(biāo)簽 > llm
在人工智能領(lǐng)域，LLM代表“大型語言模型”。在人工智能（AI）領(lǐng)域自然語言處理（NLP）是一個快速進(jìn)展的領(lǐng)域。NLP中最重要是大語言模型（LLM）。大語言模型（英文：Large Language Model，縮寫LLM），也稱大型語言模型，是一種基于機器學(xué)習(xí)和自然語言處理技術(shù)的模型。
文章：337個 瀏覽：1189次 帖子：3個
用PaddleNLP在4060單卡上實踐大模型預(yù)訓(xùn)練技術(shù)
作者：算力魔方創(chuàng)始人/英特爾創(chuàng)新大使劉力 之前我們分享了《從零開始訓(xùn)練一個大語言模型需要投資多少錢》，其中高昂的預(yù)訓(xùn)練費用讓許多對大模型預(yù)訓(xùn)練技術(shù)感興趣...
2025-02-19 標(biāo)簽：數(shù)據(jù)集大模型LLM 1.8k 0
Arm KleidiAI助力提升PyTorch上LLM推理性能
生成式人工智能 (AI) 正在科技領(lǐng)域發(fā)揮關(guān)鍵作用，許多企業(yè)已經(jīng)開始將大語言模型 (LLM) 集成到云端和邊緣側(cè)的應(yīng)用中。生成式 AI 的引入也使得許多...
如何在 OrangePi 5 Pro?的?NPU?上運行?LLM
在OrangePi5Pro上訪問NPU需要安裝最新版Ubuntu的定制版本，還需要安裝特殊軟件，讓你能在NPU而不是CPU上運行專門轉(zhuǎn)換的LLM。整個過...
LLM（Large Language Model，大型語言模型）是一種深度學(xué)習(xí)模型，主要用于處理自然語言處理（NLP）任務(wù)。LLM模型的格式多種多樣，以...
2024-07-09 標(biāo)簽：模型深度學(xué)習(xí)自然語言處理 1.8k 0
小紅書搜索團隊研究新框架：負(fù)樣本在大模型蒸餾中的重要性
在思維鏈（CoT）提示的幫助下，大語言模型（LLMs）展現(xiàn)出強大的推理能力。然而，思維鏈已被證明是千億級參數(shù)模型才具有的涌現(xiàn)能力。
Optimum Intel三步完成Llama3在算力魔方的本地量化和部署
Llama3 是Meta最新發(fā)布的開源大語言模型(LLM), 當(dāng)前已開源8B和70B參數(shù)量的預(yù)訓(xùn)練模型權(quán)重，并支持指令微調(diào)。
如圖所示，在RLAIF中，首先使用LLM來評估給定的文本和2個候選回復(fù)，然后，這些由LLM生成的偏好數(shù)據(jù)被用來訓(xùn)練一個獎勵模型，這個獎勵模型用于強化學(xué)習(xí)...
2023-09-08 標(biāo)簽：模型強化學(xué)習(xí)LLM 1.7k 0
OneLLM 是第一個在單個模型中集成八種不同模態(tài)的MLLM。通過統(tǒng)一的框架和漸進(jìn)式多模態(tài)對齊pipelines，可以很容易地擴展OneLLM以包含更多...
在當(dāng)前低資源的語言基準(zhǔn)上（如FLORES-200）改進(jìn)機器翻譯性能。針對資源極低的語言，可以利用圣經(jīng)（世界上翻譯最多的文檔）等現(xiàn)有文本作為開發(fā)機器翻譯系...
如何更好地繼續(xù)預(yù)訓(xùn)練（Continue PreTraining）
但，這種前提是「充分訓(xùn)練」，如果只看訓(xùn)練前期的話，使用更長的預(yù)熱步數(shù)（黃色的線）。無論是「上游任務(wù)」還是「下游任務(wù)」，模型的 Loss 都要比其他預(yù)熱步...
2023-09-11 標(biāo)簽：模型數(shù)據(jù)集LLM 1.7k 0
如何在不微調(diào)的情況下提高RAG的準(zhǔn)確性？
數(shù)據(jù)科學(xué)家、AI 工程師、MLOps 工程師和 IT 基礎(chǔ)設(shè)施專業(yè)人員在設(shè)計和部署檢索增強生成（RAG）工作流時，必須考慮各項因素，比如大語言模型（LL...
背景 本篇將為大家闡述亞馬遜云科技大語言模型下沉到具體行業(yè)進(jìn)行場景以及實施案例的介紹，是亞馬遜云科技官方《基于智能搜索和大模型打造企業(yè)下一代知識庫》系列...
LangChain是一個強大的框架，旨在幫助開發(fā)人員使用語言模型構(gòu)建端到端的應(yīng)用程序。它提供了一套工具、組件和接口，可簡化創(chuàng)建由大型語言模型 (LLM)...
2024-08-30 標(biāo)簽：應(yīng)用程序語言模型LLM 1.7k 0
采用ChatGPT的企業(yè)可能會擔(dān)心API調(diào)用的巨大成本、服務(wù)中斷、數(shù)據(jù)所有權(quán)和隱私問題，以及其他不可預(yù)測的事件，如最近關(guān)于董事會解雇CEO Sam Al...
基于顯式證據(jù)推理的few-shot關(guān)系抽取CoT
最近，上下文學(xué)習(xí)策略已被證明在沒有訓(xùn)練的情況下顯示出顯著的結(jié)果。很少有研究利用上下文學(xué)習(xí)進(jìn)行zero-shot信息提取。不幸的是，推理的證據(jù)在思維鏈提示...
對LLM的理解比較有限，從代碼實現(xiàn)的角度來說，RWKV的狀態(tài)和KV Cache不同，不依賴序列長度，這讓RWKV模型在各種長度下運行內(nèi)存和運行速度都是趨...
Hugging Face LLM部署大語言模型到亞馬遜云科技Amazon SageMaker推理示例
?本篇文章主要介紹如何使用新的Hugging Face LLM推理容器將開源LLMs，比如BLOOM大型語言模型部署到亞馬遜云科技Amazon Sage...
OpenVINO?協(xié)同Semantic Kernel：優(yōu)化大模型應(yīng)用性能新路徑
作為主要面向 RAG 任務(wù)方向的框架，Semantic Kernel 可以簡化大模型應(yīng)用開發(fā)過程，而在 RAG 任務(wù)中最常用的深度學(xué)習(xí)模型就是 Embe...
在 MLC-LLM 部署RWKV World系列模型實戰(zhàn)（3B模型Mac M2解碼可達(dá)26tokens/s） 中提到要使用mlc-llm部署模型首先需要...
2023-09-26 標(biāo)簽：編譯MLC深度學(xué)習(xí) 1.6k 0
在本文中，我們將深入探討LLM（Large Language Model，大型語言模型）的應(yīng)用領(lǐng)域。LLM是一種基于深度學(xué)習(xí)的人工智能技術(shù)，它能夠理解和...
2024-07-09 標(biāo)簽：模型語言模型深度學(xué)習(xí) 1.6k 0
換一批
編輯推薦廠商產(chǎn)品技術(shù)軟件/工具OS/語言教程專題
| 電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
| 步進(jìn)電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
| 伺服電機 | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術(shù) | Microchip |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關(guān)注我們的微信
下載發(fā)燒友APP
電子發(fā)燒友觀察
版權(quán)所有 ? 湖南華秋數(shù)字科技有限公司
長沙市望城經(jīng)濟技術(shù)開發(fā)區(qū)航空路6號手機智能終端產(chǎn)業(yè)園2號廠房3層（0731-88081133）
電子發(fā)燒友 （電路圖） 湘公網(wǎng)安備43011202000918
工商網(wǎng)監(jiān)
湘ICP備2023018690號-1
