離線NLP，這是探境科技給出的答案。離線NLP，或稱端側(cè)NLP技術(shù)，是不依賴云端算力，通過(guò)端側(cè)芯片來(lái)實(shí)現(xiàn)自然語(yǔ)言理解的方案。探境科技CEO魯勇堅(jiān)信：隨著AI語(yǔ)音模型的輕量化，以及端側(cè)芯片算力的逐步提高，AI語(yǔ)音最終將全部以分布式的部署到終端設(shè)備上。每一個(gè)時(shí)代都有一種占主導(dǎo)地位的交互方式，人類的生產(chǎn)及生活方式也因此被改變。

未來(lái)十年我們的生活將變成什么樣子？盡管眾多科技公司的技術(shù)演進(jìn)方式并不相同，但語(yǔ)音交互一定是繞不開(kāi)的命題。

自1952年AT&T貝爾實(shí)驗(yàn)室研發(fā)的語(yǔ)音識(shí)別系統(tǒng)Audry算起，語(yǔ)音已在科技史上歷經(jīng)了70年的變革，語(yǔ)音方案也漸漸從云計(jì)算中心向邊緣端下沉。

當(dāng)時(shí)間的飛輪馳入2022年，語(yǔ)音又將給出什么樣的驚喜？

離線NLP，這是探境科技給出的答案。離線NLP（Natural Language Processing，自然語(yǔ)言處理），或稱端側(cè)NLP技術(shù)，是不依賴云端算力，通過(guò)端側(cè)芯片來(lái)實(shí)現(xiàn)自然語(yǔ)言理解的方案。探境科技CEO魯勇堅(jiān)信：隨著AI語(yǔ)音模型的輕量化，以及端側(cè)芯片算力的逐步提高，AI語(yǔ)音最終將全部以分布式部署到終端設(shè)備上。

01離線NLP即普世，又普適

盡管語(yǔ)音成為 IoT 設(shè)備的交互標(biāo)配是大勢(shì)所趨，但從現(xiàn)實(shí)來(lái)看，在各式各樣名目繁多智能音箱在不斷的“教育和打磨”市場(chǎng)后，AI語(yǔ)音的智能家居并未如設(shè)想一般進(jìn)入尋常百姓家。

這主要由于傳統(tǒng)實(shí)現(xiàn)語(yǔ)音支持主要通過(guò)云端來(lái)實(shí)現(xiàn)，配置維護(hù)難度極高，如Wi-Fi經(jīng)常斷網(wǎng)、下載各類APP、要進(jìn)行各種繁瑣操作等，復(fù)雜程度讓人望而卻步，用戶不愿意花精力去學(xué)習(xí)。

“所有的高科技一定是要化繁為簡(jiǎn)，家電應(yīng)該以人為中心，越智能的家電，用起來(lái)就應(yīng)該越簡(jiǎn)單、那些讓人望而生畏的家電，只適合被敬仰，不適合被使用?！濒斢陆庾x說(shuō)?！跋胍接脩趔w驗(yàn)這座大山，必須解決傳統(tǒng)配置方式帶來(lái)的市場(chǎng)端問(wèn)題?！?/p>

與之相比，離線語(yǔ)音方案則無(wú)需依賴云端技術(shù)，可以直接在本地語(yǔ)音控制家電產(chǎn)品，并且不需要其它額外的操作，即插即用，擁有更快的響應(yīng)速度和更好的隱私保護(hù)，與云端相比，更符合原有家電使用習(xí)慣，屬于更為普世的“百姓智能”。

如果說(shuō)AI語(yǔ)音從在線到離線是一大躍遷的話，那從離線到離線NLP則是另一個(gè)層面的飛躍。離線NLP讓自然語(yǔ)義從云端下移到了端側(cè)，用戶與家電之間的交互就像日常對(duì)話，既操作簡(jiǎn)單，又交互自然。離線NLP在應(yīng)用層面給到用戶更普適體驗(yàn)的同時(shí)，也勢(shì)必會(huì)加速其在國(guó)內(nèi)家電市場(chǎng)落地的腳步。

此外，將語(yǔ)音處理放在端側(cè)，對(duì)于家電廠家而言，從搭建并運(yùn)營(yíng)一套復(fù)雜的云端系統(tǒng)，變成了元器件級(jí)別的改造，直接從生產(chǎn)端切入，降低了產(chǎn)品間的轉(zhuǎn)換成本，這也是魯勇對(duì)于離線NLP落地前景看好的底氣之一。

02芯片和算法 咬合緊密的雙輪 NLP 引擎

越易用的產(chǎn)品，內(nèi)核往往越復(fù)雜。

離線NLP方案的挑戰(zhàn)在于要低功耗情況下保持高性能、低成本，減少由于環(huán)境復(fù)雜和模型壓縮帶來(lái)的精度損失。這對(duì)于技術(shù)層面的考驗(yàn)有兩個(gè)：一方面在芯片設(shè)計(jì)時(shí)要在低成本的前提下，考慮到算法的需求，包括算力、存儲(chǔ)容量等是否滿足需求，并且是否有盈余以應(yīng)對(duì)未來(lái)的再升級(jí)。

另一方面，在算法層面要考慮對(duì)深度學(xué)習(xí)的支持度上是否夠廣泛，同時(shí)根據(jù)芯片所能實(shí)現(xiàn)的能力進(jìn)一步優(yōu)化和整合，保持原信息處理能力的輕量化算法重新構(gòu)建能力。

這就需要在底層芯片與高精度算法間騰挪跌宕，進(jìn)行軟硬協(xié)同的全面整合，才能實(shí)現(xiàn)兩者間的高度耦合。

探境的離線NLP芯片Voitist721，作為探境性能強(qiáng)勁的三核AI芯片，集成NPU、DSP和CPU三核，并且實(shí)現(xiàn)了對(duì)算法模型的端到端支持。

此外，支撐端到端的 NLP意味著不用局限于人為設(shè)計(jì)的數(shù)量有限的關(guān)鍵詞，而是依靠知識(shí)圖譜和基于注意力機(jī)制的深度學(xué)習(xí)算法，挖掘出自然語(yǔ)言表達(dá)中所蘊(yùn)含的信息，以適應(yīng)更為靈活的表達(dá)方式和更為廣泛的落地場(chǎng)景。

要想在離線NLP領(lǐng)域構(gòu)筑全新價(jià)值，需要做到以下兩點(diǎn)，一是語(yǔ)義識(shí)別的廣泛度，二是更高的準(zhǔn)確度。

這就需要在算法模型下足功夫，“深挖洞，廣積糧”，探境的算法模型工業(yè)化生產(chǎn)平臺(tái)，是終端智能落地應(yīng)用的強(qiáng)有力支撐，能夠有效解決遠(yuǎn)場(chǎng)識(shí)別、誤喚醒率、噪聲干擾、地域口音、詞語(yǔ)泛化等核心用戶體驗(yàn)痛點(diǎn)，其基于統(tǒng)一數(shù)據(jù)管理系統(tǒng)的采集、訓(xùn)練、測(cè)試三大系統(tǒng)平臺(tái)整體聯(lián)動(dòng)，快速響應(yīng)能滿足批量化發(fā)布的業(yè)務(wù)需求。

據(jù)魯勇透露，探境NLP算法今年上半年就已經(jīng)研發(fā)成功，并且憑借超強(qiáng)的人機(jī)交互能力，讓多個(gè)頭部客戶的眼前一亮，從而獲得了進(jìn)一步打開(kāi)離線AI語(yǔ)音市場(chǎng)的新“鑰匙”。

03正在形成的正反饋

不止是技術(shù)要“探路”，市場(chǎng)也更是循序漸進(jìn)式的。

“智能家居市場(chǎng)的需求是碎片化的，每個(gè)公司每個(gè)品牌都有不同的利益訴求，我們的做法是先做出一些爆款，在市場(chǎng)打響，相當(dāng)于走到市場(chǎng)中教育了一部分用戶，然后用戶反饋來(lái)拉動(dòng)更多廠家的加入，慢慢形成正反饋，從而達(dá)到反哺這一行業(yè)的目的?！濒斢聦?duì)離線NLP應(yīng)用充滿信心。

“從目前來(lái)看，燈具、空調(diào)、窗簾、風(fēng)扇等應(yīng)用的接受度都在肉眼可見(jiàn)的擴(kuò)大，許多頭部的大客戶開(kāi)始逐步進(jìn)入批量出貨階段，這也意味著市場(chǎng)在真正起勢(shì)?！濒斢碌脑捳Z(yǔ)透露出一股自豪。

探境科技合作伙伴包括美的、海爾、松下、歐普、奧克斯等知名廠商，從0到1的突破之后，從1到100也變得順理成章。探境不僅客戶層面形成了規(guī)模效應(yīng)，芯片層面的布局也一一展現(xiàn)，探境擁有更強(qiáng)算力的722芯片已成功點(diǎn)亮，明年年初實(shí)現(xiàn)量產(chǎn)，面向超低功耗可穿戴市場(chǎng)的芯片也將面世。

魯勇表示，今年探境的出貨量在幾百萬(wàn)片，憑借離線NLP等技術(shù)的加持，及多個(gè)芯片系列的推出，預(yù)計(jì)明年銷量會(huì)實(shí)現(xiàn)指數(shù)型的上升。

魯勇認(rèn)為，家居場(chǎng)景下的智能化可分為三步。第一步是輕智能，賦予電子產(chǎn)品輕量級(jí)卻實(shí)用性很高的語(yǔ)音控制功能，快速將單品智能化推向用戶市場(chǎng)。

第二步是重智能，在終端AI芯片上升級(jí)更強(qiáng)大的算法，讓單品變得更加智能，例如自然語(yǔ)義理解、多模態(tài)識(shí)別等，同時(shí)疊加IOT聯(lián)網(wǎng)，無(wú)需連接云端，單品之間就可以構(gòu)建一個(gè)保護(hù)隱私且用戶體驗(yàn)更好的智能家居整體場(chǎng)景。

第三步是進(jìn)一步深化軟硬件協(xié)同，實(shí)現(xiàn)深度智能，構(gòu)建屬于未來(lái)的AI產(chǎn)品，包括情感分析、對(duì)話、類人機(jī)器人等科幻級(jí)產(chǎn)品，將AI技術(shù)提高并融入生活。

探境的愿景其實(shí)很簡(jiǎn)單：讓用戶在家居場(chǎng)景下能夠?qū)崿F(xiàn)“想到-說(shuō)到-做到”的自然交互過(guò)程，不必再看那些冗長(zhǎng)繁瑣的說(shuō)明書(shū)，學(xué)習(xí)那些復(fù)雜的家電操作步驟，實(shí)現(xiàn)“有電就有智能化”的體驗(yàn)。

就像科幻電影鋼鐵俠的賈維斯，用戶回到自己家里以后，不需要特意去尋找開(kāi)關(guān)或者遙控器也好，他可以在屋子里的任意一個(gè)角落，邊走邊說(shuō)，賈維斯把窗簾都打開(kāi)，給我倒一杯檸檬水，這些設(shè)備就開(kāi)始配合工作起來(lái)了。

柯林斯在《從優(yōu)秀到卓越》提到過(guò)飛輪效應(yīng)，有一個(gè)巨大的、無(wú)比沉重的輪子，想讓它轉(zhuǎn)起來(lái)，開(kāi)始要費(fèi)很大的勁，但只要你用力的方向正確，一直推下去，輪子會(huì)越轉(zhuǎn)越快，到后面，你只要使很少的力，輪子依靠以往積聚的勢(shì)能就可以轉(zhuǎn)得飛快。

從離線NLP到更高級(jí)的深度智能，“飛輪效應(yīng)”正在向我們駛來(lái)。