在“雙碳”目標(biāo)的指引下,能源行業(yè)正經(jīng)歷從傳統(tǒng)模式向智能化、綠色化的深度轉(zhuǎn)型。上海達(dá)卯科技有限公司(以下簡(jiǎn)稱(chēng)“達(dá)卯智能”)是人工智能領(lǐng)域的能源大模型企業(yè),專(zhuān)注于通過(guò)通用人工智能(AGI)技術(shù)構(gòu)建能源管理與虛擬電廠解決方案。
深耕能源行業(yè)打造專(zhuān)用垂類(lèi)模型
達(dá)卯智能全自主研發(fā)了基于 MOE 架構(gòu)的能源大模型,憑借業(yè)界獨(dú)創(chuàng)的能量塊數(shù)據(jù)結(jié)構(gòu),應(yīng)用云端大模型+邊端智能體相結(jié)合的云邊協(xié)同架構(gòu),極大優(yōu)化了預(yù)測(cè)和策略模型生成的效率與準(zhǔn)確性,相較傳統(tǒng)策略算法,得到了大幅度提升。
達(dá)卯能源大模型是國(guó)內(nèi)領(lǐng)先的、面向各類(lèi)能源場(chǎng)景、對(duì)各類(lèi)能源任務(wù)具備通用求解能力的垂類(lèi)大模型體系,該模型體系主要由三個(gè)核心部分構(gòu)成:基于 MOE 架構(gòu)的能源知識(shí)模型、基于 Transformer 架構(gòu)的能量系統(tǒng)平衡模型以及多模態(tài)模型,共同鑄就了達(dá)卯智能在能源領(lǐng)域的技術(shù)領(lǐng)先地位。
隨著 DeepSeek 的橫空出世,達(dá)卯智能也開(kāi)始接入和適配 DeepSeek-R1 模型,DeepSeek 強(qiáng)大的推理能力,填補(bǔ)了達(dá)卯智能此前的空白,達(dá)卯智能基于 DeepSeek 進(jìn)一步升級(jí)和完善了其自研產(chǎn)品的核心能力。一方面,基于能源行業(yè)獨(dú)有的海量垂直語(yǔ)料庫(kù)與自研能源大模型體系,“能源小達(dá)”AI 智能體實(shí)現(xiàn)突破性升級(jí),為發(fā)電、輸電、配電、電力交易、政策合規(guī)等全產(chǎn)業(yè)鏈提供高精度、低延遲、強(qiáng)適配的 AI 決策支持。另一方面,達(dá)卯智能進(jìn)行二次開(kāi)發(fā),開(kāi)發(fā)了虛擬電廠功能,可對(duì)能源資源進(jìn)行調(diào)度、交易和聚合,為能源行業(yè)客戶(hù)生成相應(yīng)的資源調(diào)度策略報(bào)告,實(shí)現(xiàn)能源行業(yè)降本 15%。
RTX 5880 Ada 賦能達(dá)卯能源一體機(jī)重構(gòu)本地化部署范式
任何大模型或深度學(xué)習(xí)應(yīng)用的部署,都逃不開(kāi)算力瓶頸。面對(duì)數(shù)十億甚至上百億參數(shù)規(guī)模的模型,一個(gè)合適的硬件配置能夠讓推理速度提升一個(gè)數(shù)量級(jí)。
為適應(yīng)能源行業(yè) AI 的變革,達(dá)卯智能基于 DeepSeek R1 與 NVIDIA 架構(gòu),推出了 DM-Engine R1 系列能源大模型一體機(jī),通過(guò)搭載麗臺(tái)科技提供的 NVIDIA RTX 5880 Ada GPU,結(jié)合麗臺(tái)科技定制化工作站和服務(wù)器整機(jī),達(dá)卯智能為能源行業(yè)打造了安全端到端 AI 推理方案。
此次推出的 DM-Engine R1 一體機(jī)系列有三款,其中 DM-Engine R1 14B 標(biāo)準(zhǔn)版和 DM-Engine R1 32B 旗艦版均搭載 NVIDIA RTX 5880 Ada,分別適用于輕量級(jí)模型推理以及高精度專(zhuān)業(yè)領(lǐng)域任務(wù)。
RTX 5880 Ada 具備 48GB GDDR6 顯存以及 14,080 個(gè) CUDA 核心和 440 個(gè)第四代 Tensor Core,具有 69.3 TFLOPs 的 FP32 計(jì)算能力和 1,108 TFLOPs 的 Tensor 性能,非常適合用于 AI 模型推理任務(wù),單 GPU 即可勝任小規(guī)模模型或低并發(fā)推理需求,而多 GPU 的靈活擴(kuò)展則更適用于處理教大的輸入或高并發(fā)推理場(chǎng)景。
DM-Engine R1 14B 標(biāo)準(zhǔn)版能夠使 TCO(總體擁有成本)降低 40% 并且支持 365*24 小時(shí)無(wú)休運(yùn)行。DM-Engine R1 32B 旗艦版配備 2 塊 RTX 5880 Ada,48GB*2 顯存保障 8,192 步長(zhǎng)時(shí)序預(yù)測(cè)零中斷,同時(shí)支持 2.4 萬(wàn) QPS 高并發(fā),能夠?qū)崿F(xiàn)結(jié)構(gòu)化剪枝技術(shù)能源場(chǎng)景推理提速 300%。
DM-Engine R1 系列一體機(jī)特點(diǎn):
全棧深度適配
預(yù)集成能源領(lǐng)域?qū)俅竽P团c工具鏈,通過(guò)可視化界面與標(biāo)準(zhǔn)化接口,實(shí)現(xiàn)從部署到應(yīng)用的極簡(jiǎn)操作流程,企業(yè)可以快速構(gòu)建專(zhuān)屬能源模型,無(wú)需復(fù)雜的配置和調(diào)試,大大縮短了項(xiàng)目上線時(shí)間,提高了業(yè)務(wù)響應(yīng)速度,使企業(yè)能夠更敏捷地應(yīng)對(duì)市場(chǎng)變化和能源管理需求。
算效比全面領(lǐng)先
基于 NVIDIA 新一代架構(gòu) GPU 保障千億級(jí)模型推理精度,實(shí)現(xiàn)單位功耗算力倍增,邊緣場(chǎng)景綜合能效比達(dá)業(yè)界標(biāo)桿水平。這意味著在相同的能耗條件下,該系列一體機(jī)能夠提供更強(qiáng)大的計(jì)算性能,幫助能源企業(yè)降低運(yùn)營(yíng)成本,提高能源利用效率,符合“雙碳”目標(biāo)下的可持續(xù)發(fā)展要求。
靈活部署全域覆蓋
支持從邊端設(shè)備監(jiān)測(cè)到云端超大規(guī)模集群的多層級(jí)算力配置,適配私有化部署與公有云快速接入,滿足能源預(yù)測(cè)、智能調(diào)度、電力交易等全場(chǎng)景需求,兼顧數(shù)據(jù)安全與業(yè)務(wù)敏捷性。能源企業(yè)可以根據(jù)自身的業(yè)務(wù)特點(diǎn)和需求,選擇最適合的部署方案,確保數(shù)據(jù)的保密性和完整性,同時(shí)實(shí)現(xiàn)快速的業(yè)務(wù)拓展和創(chuàng)新。
DM-Engine R1 系列一體機(jī)通過(guò)不同的配置,來(lái)精準(zhǔn)匹配各類(lèi)能源行業(yè)需求。在能效優(yōu)化方面,幫助用戶(hù)年節(jié)省百萬(wàn)級(jí)能耗成本,實(shí)現(xiàn)了能源的高效利用和成本的大幅降低。其海量秒級(jí)響應(yīng)決策能力,使能源企業(yè)在面對(duì)市場(chǎng)波動(dòng)和需求變化時(shí),能夠迅速做出精準(zhǔn)的調(diào)度和決策,提升企業(yè)的市場(chǎng)競(jìng)爭(zhēng)力。同時(shí),本地化的部署能夠保障核心資產(chǎn)與業(yè)務(wù)數(shù)據(jù)安全,防止數(shù)據(jù)泄露和惡意攻擊,為能源企業(yè)的數(shù)字化轉(zhuǎn)型提供了堅(jiān)實(shí)的安全保障。
達(dá)卯智能技術(shù)人員表示:“達(dá)卯智能基于 NVIDIA RTX 5880 Ada 打造的一體機(jī),是面向能源行業(yè)的專(zhuān)屬 AI 推理方案,做到算力與模型的高效協(xié)同,為能源行業(yè)帶來(lái)了更高效、更智能的解決方案?!?/p>
-
NVIDIA
+關(guān)注
關(guān)注
14文章
5442瀏覽量
108489 -
能源
+關(guān)注
關(guān)注
3文章
2185瀏覽量
45558 -
大模型
+關(guān)注
關(guān)注
2文章
3356瀏覽量
4776 -
DeepSeek
+關(guān)注
關(guān)注
2文章
821瀏覽量
2645
原文標(biāo)題:案例分享丨算模協(xié)同:RTX 5880 Ada 賦能達(dá)卯智能能源大模型
文章出處:【微信號(hào):Leadtek,微信公眾號(hào):麗臺(tái)科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
NVIDIA RTX PRO 4500 Blackwell GPU測(cè)試分析

NVIDIA桌面GPU系列擴(kuò)展新產(chǎn)品
NVIDIA RTX AI加速FLUX.1 Kontext現(xiàn)已開(kāi)放下載
雷卯賦能儲(chǔ)能安全:構(gòu)建全鏈路防護(hù)體系

NVIDIA RTX 5880 Ada與Qwen3系列模型實(shí)測(cè)報(bào)告

使用NVIDIA RTX PRO Blackwell系列GPU加速AI開(kāi)發(fā)
NVIDIA RTX 5880 Ada顯卡部署DeepSeek-R1模型實(shí)測(cè)報(bào)告

NVIDIA RTX 4500 Ada與NVIDIA RTX A5000的對(duì)比
$1999 的 RTX 5090 來(lái)了

評(píng)論