GreenWaves Technologies 和 Imagimob 討論了在邊緣為 AI 開發(fā)應(yīng)用程序的挑戰(zhàn)以及用例將如何演變。

EE Times Europe 采訪了兩家參展商 GreenWaves Technologies 和 Imagimob 的高管，以深入了解在邊緣開發(fā) AI 應(yīng)用程序的挑戰(zhàn)以及用例將如何演變。

機(jī)器學(xué)習(xí)并不新鮮；十多年來，許多ML模型已經(jīng)在高端服務(wù)器和云服務(wù)提供商上可用。然而，對(duì)超低功耗、資源受限的微控制器進(jìn)行推理僅在過去四年才開始獲得發(fā)展勢(shì)頭。2019 年，tinyML 基金會(huì)成為希望探索在低功耗 MCU 上運(yùn)行 ML 算法（通常消耗毫瓦級(jí)能量）的公司的焦點(diǎn)。隨著超低功耗 MCU 的面世，它們開啟了始終在線運(yùn)行的潛力，特別是對(duì)于電池供電的用例。

定義“邊緣”

對(duì)某些人來說，“邊緣”代表可靠的網(wǎng)絡(luò)連接和線路電源的地方；其他人認(rèn)為它是一個(gè)偏遠(yuǎn)的地方，連接有限或不可靠，電池供電是常態(tài)。從環(huán)境資源中收集能量越來越成為邊緣節(jié)點(diǎn)物聯(lián)網(wǎng)設(shè)備的一個(gè)特點(diǎn)。

“邊緣有很多定義，”超低功耗處理器的無晶圓廠開發(fā)商 GreenWaves Technologies（法國格勒諾布爾）營銷副總裁 Martin Croome 說。“對(duì)于移動(dòng)網(wǎng)絡(luò)運(yùn)營商來說，邊緣可能是他們的基站，在生產(chǎn)線上它可能是機(jī)器人，而對(duì)我們來說它可能是耳塞。定義邊緣的重要因素之一是功率：是瓦、毫瓦還是微瓦？邊緣的第二個(gè)維度是成本，其中邊緣設(shè)備受到成本限制，要么是因?yàn)樗且患旧沓杀静桓叩男|西，要么是市場(chǎng)緊張。tinyML 設(shè)備成本低、功耗低?！?/p>

邊緣人工智能開發(fā)挑戰(zhàn)

市場(chǎng)對(duì) tinyML 和在邊緣創(chuàng)建機(jī)器學(xué)習(xí)應(yīng)用程序的興趣幫助建立了多家 ML 開發(fā)平臺(tái)公司。這些軟件包涵蓋整個(gè) AI 工作流程，從數(shù)據(jù)收集到數(shù)據(jù)分析、模型選擇和部署，是探索邊緣 AI 的嵌入式開發(fā)人員的熱門選擇。

Imagimob（瑞典斯德哥爾摩）于 2019 年推出了 Imagimob AI 平臺(tái)。在開發(fā)人員面臨的所有 ML 挑戰(zhàn)中，合適的訓(xùn)練數(shù)據(jù)的可用性至關(guān)重要。但這不僅僅是擁有正確的數(shù)據(jù)，Imagimob 的首席執(zhí)行官兼創(chuàng)始人安德斯·哈德布林 (Anders Hardebring) 說。“借助我們的 AutoML 功能，你可以使用智能算法找到正確的模型架構(gòu)，但這里重要的是對(duì)數(shù)據(jù)有很好的理解。理解數(shù)據(jù)是關(guān)鍵。如果不了解數(shù)據(jù)并且正在使用 AutoML，那么就無法真正了解正在發(fā)生的事情。”

GreenWaves的Croome證實(shí)，一攬子方法對(duì)那些剛起步的人有幫助，但也強(qiáng)調(diào)了了解正在使用的數(shù)據(jù)的重要性?！叭绻阏谧龅氖虑檫m合其中一個(gè)包，那么也許你可以走很長一段路，而不必讓自己暴露對(duì)特定模型的更深入理解。我會(huì)爭辯說，[如果你]使用一個(gè)不了解你將要做的統(tǒng)計(jì)數(shù)據(jù)的包，對(duì)它的數(shù)學(xué)理解，那么我認(rèn)為你可能會(huì)犯一些錯(cuò)誤?！?/p>

學(xué)習(xí)什么是可能的

雖然已經(jīng)存在許多用于對(duì)象檢測(cè)的訓(xùn)練數(shù)據(jù)集，例如動(dòng)物、水果或蔬菜，但對(duì)于許多用例，你需要從頭開始。Imagimob 的首席技術(shù)官兼聯(lián)合創(chuàng)始人 Alexander Samuelsson 指出了數(shù)據(jù)挑戰(zhàn)：“假設(shè)你需要為安全用例檢測(cè)槍聲。首先，你需要從不同的環(huán)境中獲得質(zhì)量好的槍聲，然后你想要將這些聲音與不同的背景噪音疊加在一起，讓模型開始理解這種聲音的邊界。”

更大的模型和加速器

當(dāng)被問及人工智能在邊緣的當(dāng)前局限性時(shí)，Samuelsson回答說：“市場(chǎng)仍然是新的，人們正在試驗(yàn)并試圖了解可以做什么。到目前為止，我們不得不幫助用戶解釋一下這項(xiàng)技術(shù)可以做什么，不可以做什么。

“例如，幾年前，一個(gè)慣性測(cè)量單元，因?yàn)樗且粋€(gè)低帶寬傳感器，是一個(gè)很好的起點(diǎn)?，F(xiàn)在這些平臺(tái)，尤其是帶有加速器的平臺(tái)，變得越來越強(qiáng)大，所以可以做更高級(jí)的事情?！?/p>

雖然許多 tinyML 簡單的神經(jīng)網(wǎng)絡(luò)模型可以在低功耗微控制器上運(yùn)行，但毫無疑問，添加加速器會(huì)打開可能的用例并使用更大的模型。每個(gè)處理器創(chuàng)新周期都在不斷降低功耗，進(jìn)一步擴(kuò)大人工智能在邊緣的作用。

GreenWaves 的第二代處理器 GAP9 具有超低功耗規(guī)格，并集成了 DSP 和神經(jīng)網(wǎng)絡(luò)加速器。Croome 解釋了添加 DSP 的原因：“在很多情況下，在將數(shù)據(jù)輸入神經(jīng)網(wǎng)絡(luò)之前，需要對(duì) [數(shù)據(jù)] 進(jìn)行大量預(yù)處理。任何時(shí)間序列往往都需要更多的前期工作，比如編解碼器之類與人工智能無關(guān)但無論如何都需要的東西?！?/p>

Croome 承認(rèn)用例的內(nèi)存和處理注意事項(xiàng)，包括升級(jí)到功能更強(qiáng)大的 MCU 的潛在需求?！叭缓竽憧赡軙?huì)遇到成本或功率問題，”他說。“一般來說，固定的硬件會(huì)更有效率。存在靈活性與成本權(quán)衡。比如人聲檢測(cè)，放在麥克風(fēng)里面就很明顯了?？赡軙?huì)占據(jù)很大一部分麥克風(fēng)市場(chǎng)。你可以專門為此構(gòu)建網(wǎng)絡(luò)并設(shè)計(jì)麥克風(fēng)內(nèi)部的控制器。然而，對(duì)于其他情況，它可能根本沒有意義，因?yàn)槟阆肷?jí)它、改變它或變得更靈活?！?/p>

推進(jìn)邊緣 AI 所必需的下一個(gè)創(chuàng)新

超低功耗微控制器、AI/ML 開發(fā)平臺(tái)和神經(jīng)網(wǎng)絡(luò)加速器取得的進(jìn)步有助于擴(kuò)展基于邊緣的 tinyML 應(yīng)用程序的復(fù)雜性。但下一步是什么？需要哪些硬件創(chuàng)新來延續(xù)邊緣人工智能的發(fā)展步伐？

Imagimob 的 Hardebring 說：“我們認(rèn)為技術(shù)已經(jīng)在這里了，但我們認(rèn)為市場(chǎng)需要接受更多教育。歸根結(jié)底，我認(rèn)為技術(shù)在這里，芯片在這里，軟件在這里，但市場(chǎng)需要理解這一點(diǎn)。市場(chǎng)需要了解他們可以在邊緣做什么以及這樣做的優(yōu)勢(shì)?！?/p>

Imagimob 的 Samuelsson 說，供應(yīng)商在這里發(fā)揮了作用?！拔艺J(rèn)為，為了真正幫助我們的客戶投入生產(chǎn)，我們所有的公司，包括硬件和軟件，都需要非常、非常緊密地合作。”

邊緣人工智能成為常態(tài)

GreenWaves 的 Croome 強(qiáng)調(diào)了邊緣 AI 引人注目的用例日益多樣化。“在使用神經(jīng)網(wǎng)絡(luò)進(jìn)行電池管理方面有很多工作，這些神經(jīng)網(wǎng)絡(luò)本質(zhì)上是在了解電池、基于電池使用時(shí)間的電池壽命以及許多其他參數(shù)，”他指出?！斑@是另一種統(tǒng)計(jì)模型?！?/p>

邊緣人工智能將如何發(fā)展？“神經(jīng)網(wǎng)絡(luò)將無處不在，”Croome 說。“他們將成為編程的一部分，一旦他們無處不在，他們就會(huì)變得越來越微不足道，因?yàn)檫@只是一件很正常的事情?！?/p>

電子行業(yè)無疑是創(chuàng)新的溫床。在短短四年內(nèi)，我們見證了微控制器功能的進(jìn)步，使邊緣 AI 成為可能。產(chǎn)品經(jīng)理和開發(fā)人員已準(zhǔn)備好將邊緣 AI 納入他們的下一個(gè)設(shè)計(jì)中，并在此過程中將這些技術(shù)確立為未來的規(guī)范。

審核編輯 ：李倩