18video性欧美19sex,欧美高清videosddfsexhd,性少妇videosexfreexxx片中国,激情五月激情综合五月看花,亚洲人成网77777色在线播放

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

大模型在端側(cè)迅速落地,面臨哪些挑戰(zhàn)

Carol Li ? 來源:電子發(fā)燒友 ? 作者:李彎彎 ? 2024-05-15 01:16 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報道(文/李彎彎)大模型技術(shù)正在快速發(fā)展,并在不同領(lǐng)域取得顯著進展。如在設(shè)計領(lǐng)域,近日消息,騰訊混元大模型文生圖已經(jīng)深度應(yīng)用在B端和C端,此外,騰訊混元大模型還可以做圖生視頻、視頻生視頻等,為設(shè)計領(lǐng)域帶來了更多可能性。

大模型技術(shù)正在向更多行業(yè)滲透。例如,在金融、消費、互聯(lián)網(wǎng)等領(lǐng)域,大模型技術(shù)已經(jīng)開始被應(yīng)用于數(shù)據(jù)分析、客戶服務(wù)、產(chǎn)品推薦等方面。通過利用大模型技術(shù),企業(yè)可以更加精準(zhǔn)地了解客戶需求,提高服務(wù)質(zhì)量和效率。

大模型在設(shè)計領(lǐng)域進展迅速

“大模型加速產(chǎn)業(yè)進入全新智能時代,正成為推動科技創(chuàng)新、產(chǎn)業(yè)升級、生產(chǎn)力躍遷的重要驅(qū)動力量?!彬v訊設(shè)計杰出專家、騰訊混元產(chǎn)品負(fù)責(zé)人陳妍妍近日談到。

在她看來,從大模型的能力來看,各行業(yè)對大模型有著三大共性需求,包括內(nèi)容生成與創(chuàng)意設(shè)計、信息提煉與專業(yè)輔助、任務(wù)調(diào)度與智能交互及情感陪伴等。她認(rèn)為,設(shè)計行業(yè)的應(yīng)用就是大模型落地的一個代表性的領(lǐng)域。從文生圖、文生視頻到文生3D,多模態(tài)探索是騰訊混元大模型等國產(chǎn)大模型的重要發(fā)展方向。

大模型在設(shè)計領(lǐng)域的應(yīng)用進展十分迅速。騰訊的混元大模型在設(shè)計領(lǐng)域就展示了其強大的能力。在文生圖方面,騰訊的混元大模型尤其注重本土化,能夠在很多應(yīng)用場景中利用中國的歷史和文化元素,這在國際市場上具有獨特的優(yōu)勢。同時,騰訊的混元大模型已經(jīng)深度應(yīng)用于B端和C端,如創(chuàng)意廣告、人像風(fēng)格化等領(lǐng)域。

在文生視頻方面,騰訊的混元大模型已經(jīng)能夠?qū)崿F(xiàn)將視頻拉長的功能,從之前的4秒擴展到現(xiàn)在的16秒,這展示了其在視頻生成和處理方面的能力。此外,該模型還可以進行圖生視頻、視頻生視頻等應(yīng)用,為設(shè)計領(lǐng)域提供了更多的可能性。

雖然文生3D在現(xiàn)階段的應(yīng)用還不夠廣泛,但騰訊已經(jīng)提前進行了一些研究。這種技術(shù)生成的模型具有可編輯性,可以導(dǎo)入到3D編輯工具中進行重新調(diào)整,這為未來的3D人物應(yīng)用提供了基礎(chǔ)。

從技術(shù)升級與開放方面來看,騰訊的混元大模型不斷進行技術(shù)升級,目前已擴展至萬億級參數(shù)規(guī)模。為了推動技術(shù)的發(fā)展和應(yīng)用,騰訊計劃將文生圖能力進行開源,這將有助于降低技術(shù)門檻,促進更多的開發(fā)者和藝術(shù)家利用大模型進行設(shè)計創(chuàng)作。

大模型落地端側(cè)成布局重要方向

過去一年多時間,大模型技術(shù)快速發(fā)展,其在端側(cè)的應(yīng)用落地也進展迅速。如在智能語音助手方面,大模型可以集成到智能語音助手中,使其能夠更好地理解和處理自然語言。這使得用戶可以通過語音與設(shè)備進行更自然和便捷的交互。智能語音助手已經(jīng)成為手機、智能家居設(shè)備等端側(cè)設(shè)備的標(biāo)配功能,為用戶提供了更加智能化的服務(wù)體驗。

在圖像識別與處理當(dāng)面,端側(cè)設(shè)備可以利用大模型進行圖像識別和處理。例如,在移動設(shè)備上進行實時的人臉識別、物體識別或圖像增強等操作。這種技術(shù)已經(jīng)廣泛應(yīng)用于手機相機、安防監(jiān)控、自動駕駛等領(lǐng)域,為用戶提供了更加便捷和高效的圖像處理體驗。

基于大模型的個性化推薦系統(tǒng)也可以在端側(cè)應(yīng)用中實現(xiàn)。通過分析用戶的興趣和行為,系統(tǒng)可以為用戶推薦符合其喜好的內(nèi)容、商品或服務(wù)。這種技術(shù)在電商、社交、新聞等領(lǐng)域得到了廣泛應(yīng)用,提高了用戶滿意度和轉(zhuǎn)化率。

大模型還可以用于實時語音翻譯或文本翻譯,使得用戶能夠在不同語言之間進行無縫交流。這種技術(shù)在跨國交流、在線教育、旅游等領(lǐng)域具有廣泛應(yīng)用前景,為用戶提供了更加便捷的溝通方式。

在硬件和計算技術(shù)方面,為了支持大模型在端側(cè)的應(yīng)用,出現(xiàn)了許多新的解決方案。例如,使用邊緣計算技術(shù)將計算任務(wù)從中心服務(wù)器下沉到設(shè)備的邊緣,使設(shè)備能夠更快速地處理數(shù)據(jù)和計算任務(wù)。這有助于減輕端側(cè)設(shè)備的計算負(fù)擔(dān)和能源消耗,提高響應(yīng)速度和用戶體驗。

此外,還有一些研究工作致力于優(yōu)化大模型的訓(xùn)練和推理過程。例如,使用增量學(xué)習(xí)、遷移學(xué)習(xí)等技術(shù)對大模型進行微調(diào),使其更適合特定任務(wù)和場景。這些技術(shù)能夠降低模型的復(fù)雜度和參數(shù)數(shù)量,提高模型的精度和效率,從而更好地適應(yīng)端側(cè)設(shè)備的性能限制。

當(dāng)然,大模型在端側(cè)的應(yīng)用也面臨一些挑戰(zhàn),如在性能和精度平衡方面,端側(cè)設(shè)備通常具有有限的計算資源和存儲空間,無法直接運行大模型。因此,需要對大模型進行壓縮、剪枝、量化等技術(shù)處理,以減小模型的大小和計算復(fù)雜度,使其適應(yīng)端側(cè)設(shè)備的性能要求。然而,這些技術(shù)處理可能會降低大模型的性能和精度。如何在保持模型精度的同時降低其復(fù)雜度和大小,是端側(cè)應(yīng)用面臨的一個重要問題。

還有,端側(cè)設(shè)備的電池容量有限,長時間的模型推理會消耗大量的能源,縮短設(shè)備的續(xù)航時間。如何在保證模型性能的同時降低能源消耗,是另一個需要解決的問題。

另外,與云端模型不同,端側(cè)模型的部署和升級更為復(fù)雜。一旦模型出現(xiàn)問題,不像云端那樣可以通過簡單的部署和代碼更新來解決。端側(cè)模型的維護和升級成本相對較高,需要更多的技術(shù)支持和人力投入。

寫在最后

如何推進大模型落地應(yīng)用已經(jīng)成為當(dāng)下重點關(guān)注的話題,如今,無論是終端公司、算法公司,還是芯片公司等都在積極為大模型在終端側(cè)的落地應(yīng)用而努力。

從上文可以看到,雖然仍然存在一些挑戰(zhàn),不過不難看出,大模型在斷側(cè)的應(yīng)用前景十分廣闊,相信隨著技術(shù)的不斷發(fā)展和應(yīng)用場景的不斷拓展,大模型將在端側(cè)應(yīng)用中發(fā)揮越來越重要的作用,為人們帶來更加智能化、便捷化和個性化的服務(wù)。





聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 算法
    +關(guān)注

    關(guān)注

    23

    文章

    4743

    瀏覽量

    96842
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3360

    瀏覽量

    4785
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    華為CANN與智譜GLM側(cè)模型完成適配

    已于7月28日正式開源其新一代基座模型GLM-4.5,其GLM側(cè)模型已完成與CANN的適配。這標(biāo)志著國產(chǎn)大模型與計算架構(gòu)
    的頭像 發(fā)表于 08-11 11:00 ?2029次閱讀

    廣和通發(fā)布自研側(cè)語音識別大模型FiboASR

    7月,全球領(lǐng)先的無線通信模組及AI解決方案提供商廣和通,發(fā)布其自主研發(fā)的語音識別大模型FiboASR。該模型專為側(cè)設(shè)備上面臨的面對面實時對
    的頭像 發(fā)表于 08-04 11:43 ?1203次閱讀

    側(cè)模型迎來“輕”革命!移遠(yuǎn)通信 × RWKV 打造“輕量AI大腦”

    7月27日,移遠(yuǎn)通信宣布與RWKV公司建立全面合作關(guān)系,雙方將依托移遠(yuǎn)的算力平臺,優(yōu)化并支持RWKV最新模型架構(gòu),共同推動大模型側(cè)設(shè)備的
    的頭像 發(fā)表于 07-27 19:02 ?520次閱讀
    <b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>大<b class='flag-5'>模型</b>迎來“輕”革命!移遠(yuǎn)通信 × RWKV 打造“輕量AI大腦”

    終于有人把側(cè)模型說清楚了

    "側(cè)"大模型?聊具體內(nèi)容之前,先解釋一下這個名字的由來。計算機和通信領(lǐng)域,我們通常把整個系統(tǒng)分為幾個層次:云端(Cloud):遠(yuǎn)程的數(shù)
    的頭像 發(fā)表于 07-24 12:03 ?1249次閱讀
    終于有人把<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>大<b class='flag-5'>模型</b>說清楚了

    廣和通加速通義千問Qwen3側(cè)全面落地

    6月,廣和通宣布:率先完成通義千問Qwen3系列混合推理模型高通QCS8550平臺側(cè)的適配部署。廣和通通過定制化混合精度量化方案與創(chuàng)新硬件加速算法,成功突破Qwen3新型架構(gòu)
    的頭像 發(fā)表于 06-25 15:35 ?625次閱讀

    首創(chuàng)開源架構(gòu),天璣AI開發(fā)套件讓側(cè)AI模型接入得心應(yīng)手

    ,聯(lián)發(fā)科帶來了全面升級的天璣AI開發(fā)套件2.0,模型庫規(guī)模、架構(gòu)開放程度、前沿側(cè)AI技術(shù)支持和側(cè)
    發(fā)表于 04-13 19:52

    AI大模型側(cè)部署正當(dāng)時:移遠(yuǎn)端側(cè)AI大模型解決方案,激活場景智能新范式

    AI技術(shù)飛速發(fā)展的當(dāng)下,AI大模型的應(yīng)用正從云端向側(cè)加速滲透。 作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方案供應(yīng)商,移遠(yuǎn)通信憑借深厚的技術(shù)積累與前瞻性的戰(zhàn)略布局,
    發(fā)表于 03-27 11:26 ?360次閱讀
    AI大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側(cè)部署正當(dāng)時:移遠(yuǎn)端<b class='flag-5'>側(cè)</b>AI大<b class='flag-5'>模型</b>解決方案,激活場景智能新范式

    AI大模型側(cè)部署正當(dāng)時:移遠(yuǎn)端側(cè)AI大模型解決方案,激活場景智能新范式

    AI技術(shù)飛速發(fā)展的當(dāng)下,AI大模型的應(yīng)用正從云端向側(cè)加速滲透。作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方案供應(yīng)商,移遠(yuǎn)通信憑借深厚的技術(shù)積累與前瞻性的戰(zhàn)略布局,
    的頭像 發(fā)表于 03-26 19:05 ?771次閱讀
    AI大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側(cè)部署正當(dāng)時:移遠(yuǎn)端<b class='flag-5'>側(cè)</b>AI大<b class='flag-5'>模型</b>解決方案,激活場景智能新范式

    移遠(yuǎn)通信邊緣計算模組成功運行DeepSeek模型,以領(lǐng)先的工程能力加速側(cè)AI落地

    近日,國產(chǎn)大模型DeepSeek憑借其“開源開放、高效推理、側(cè)友好”的核心優(yōu)勢,迅速風(fēng)靡全球。移遠(yuǎn)通信基于邊緣計算模組SG885G,已成功實現(xiàn)DeepSeek
    發(fā)表于 02-13 11:32 ?391次閱讀
    移遠(yuǎn)通信邊緣計算模組成功運行DeepSeek<b class='flag-5'>模型</b>,以領(lǐng)先的工程能力加速<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AI<b class='flag-5'>落地</b>

    移遠(yuǎn)通信邊緣計算模組成功運行DeepSeek模型,以領(lǐng)先的工程能力加速側(cè)AI落地

    近日,國產(chǎn)大模型DeepSeek憑借其“開源開放、高效推理、側(cè)友好”的核心優(yōu)勢,迅速風(fēng)靡全球。移遠(yuǎn)通信基于邊緣計算模組SG885G,已成功實現(xiàn)DeepSeek
    的頭像 發(fā)表于 02-12 19:03 ?682次閱讀
    移遠(yuǎn)通信邊緣計算模組成功運行DeepSeek<b class='flag-5'>模型</b>,以領(lǐng)先的工程能力加速<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AI<b class='flag-5'>落地</b>

    廣和通開啟側(cè)AI新時代

    AI發(fā)展正酣,隨著終端芯片算力越來越高、側(cè)模型能力越來越強、實時響應(yīng)及隱私保護的側(cè)應(yīng)用需求增加,
    的頭像 發(fā)表于 12-12 10:35 ?1125次閱讀

    訊飛星火側(cè)模型發(fā)布

    參數(shù)量小、內(nèi)存占比小的側(cè)模型,正成為“兵家必爭之地”。
    的頭像 發(fā)表于 12-04 16:07 ?1601次閱讀

    智譜推出四個全新側(cè)模型 攜英特爾按下AI普及加速鍵

    隨著AI的發(fā)展,側(cè)AI模型越來越受到廣大客戶及廠商的關(guān)注,業(yè)界領(lǐng)先的大模型公司智譜于近日推出了四個全新的
    的頭像 發(fā)表于 12-02 17:13 ?779次閱讀
    智譜推出四個全新<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>模型</b> 攜英特爾按下AI普及加速鍵

    把握關(guān)鍵節(jié)點,美格智能持續(xù)推動側(cè)AI規(guī)?;卣?/a>

    將成為和系統(tǒng)同樣重要的存在,如果說電路是連接身體的“血管”,那么AI就將成為終端的智慧“大腦”。 ?加速演進,大模型加速走向側(cè) 從手機移動開始,
    的頭像 發(fā)表于 11-25 16:45 ?990次閱讀
    把握關(guān)鍵節(jié)點,美格智能持續(xù)推動<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AI規(guī)?;卣? />    </a>
</div>                              <div   id=

    側(cè)AI浪潮已來!炬芯科技發(fā)布新一代側(cè)AI音頻芯片,能效比和AI算力大幅度提升

    側(cè)AI音頻芯片。 ? 2028 年中小型模型側(cè)AI市場迅速增長,技術(shù)上有三大
    的頭像 發(fā)表于 11-06 09:11 ?4671次閱讀
    <b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AI浪潮已來!炬芯科技發(fā)布新一代<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AI音頻芯片,能效比和AI算力大幅度提升