邊緣智能是自問世以來最具顛覆性的創(chuàng)新之一 的物聯(lián)網(wǎng) （IoT）。雖然物聯(lián)網(wǎng)產(chǎn)生了數(shù)十億的智能， 連接設(shè)備為基于 AI 傳輸無數(shù) TB 的傳感器數(shù)據(jù) 云計(jì)算，另一場革命正在進(jìn)行中：機(jī)器學(xué)習(xí)（ML） 邊緣設(shè)備。隨著越來越多的智能遷移到網(wǎng)絡(luò)邊緣，恩智浦 通過提供成本、性能和功耗優(yōu)化來擁抱這一趨勢 處理解決方案，推動 ML 技術(shù)跨多個市場 應(yīng)用程序，為最終用戶提供增強(qiáng)安全性的好處， 更好的隱私和更低的延遲。

開發(fā) ML、深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)應(yīng)用程序傳統(tǒng)上具有 是數(shù)據(jù)科學(xué)家和人工智能專家的領(lǐng)域。但這種情況正在改變 更多的 ML 工具和技術(shù)已經(jīng)可用于抽象出一些 開發(fā)機(jī)器學(xué)習(xí)應(yīng)用程序的復(fù)雜性。一個恰當(dāng)?shù)睦邮?恩智浦的eIQ（“邊緣智能”）ML開發(fā)環(huán)境。eIQ 提供 全面的工作流工具集、推理引擎、神經(jīng)網(wǎng)絡(luò) （NN） 編譯器、優(yōu)化的庫和技術(shù)，可簡化和加速 ML 面向所有技能水平的用戶進(jìn)行開發(fā)，從嵌入式開發(fā)人員開始 在他們的第一個深度學(xué)習(xí)項(xiàng)目中，向?qū)Ｗ⒂诟呒墝ο蟮膶＜医榻B 檢測、分類、異常檢測或語音識別解決方案。

eIQ ML 軟件于 2018 年推出，現(xiàn)已發(fā)展到支持系統(tǒng)級 面向恩智浦 i.MX 系列的應(yīng)用和ML算法支持，來自 低功耗 i.MX RT交叉微控制器（MCU）到多核 i.MX 8和 i.MX 基于 Arm Cortex-M 和 Cortex-A 內(nèi)核的 8M 應(yīng)用處理器。

幫助ML開發(fā)人員提高工作效率，更熟練地掌握恩智浦 i.MX 8個處理平臺，我們顯著擴(kuò)展了eIQ軟件 環(huán)境，包括新的 eIQ 工具包工作流工具、基于 GUI 的 eIQ 門戶 開發(fā)環(huán)境和 DeepViewRT?推理引擎 針對 i.MX 和 i.MX RT 設(shè)備進(jìn)行了優(yōu)化。

圖1.eIQ 工具包和 eIQ 門戶功能的高級演示 和工作流程。

讓我們仔細(xì)看看這些強(qiáng)大的 eIQ 新增功能如何 軟件環(huán)境可以幫助簡化 ML 開發(fā)，提高生產(chǎn)力， 并為開發(fā)人員提供更多選擇和更大的靈活性。

eIQ 工具包：為每個人啟用“ML”

考慮到機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)和深度的潛在復(fù)雜性 學(xué)習(xí)應(yīng)用程序 - 以及 ML 開發(fā)人員的不同需求 - 一個簡單的 “一刀切”工具不是答案。更好的方法是提供 全面而靈活的工具包，可擴(kuò)展以滿足技能和需求 ML 開發(fā)人員的經(jīng)驗(yàn)水平。為此，我們添加了強(qiáng)大的 易于使用的 eIQ 工具包適用于 eIQ ML 開發(fā)環(huán)境，支持 開發(fā)人員導(dǎo)入數(shù)據(jù)集和模型以及訓(xùn)練、修剪、量化、驗(yàn)證 并在恩智浦 i.MX 8M系列中部署神經(jīng)網(wǎng)絡(luò)模型和ML工作負(fù)載 的應(yīng)用處理器和 i.MX RT 分頻 MCU 產(chǎn)品組合。是否 是開始您的第一個 ML 項(xiàng)目的嵌入式開發(fā)人員，精通 數(shù)據(jù)科學(xué)家或 AI 專家，您將找到合適的工具包功能 匹配您的技能水平并簡化您的 ML 項(xiàng)目。

圖2.eIQ 門戶提供了一個數(shù)據(jù)集策展人來幫助您注釋和 組織所有訓(xùn)練數(shù)據(jù)。

eIQ 工具包提供簡單的工作流程和 ML 應(yīng)用程序 例子。該工具包還提供了一個直觀的、基于 GUI 的開發(fā)選項(xiàng) 使用 eIQ 門戶和使用命令行主機(jī)工具的選項(xiàng)，如果 你更喜歡。如果您想利用現(xiàn)成的開發(fā)解決方案或 需要恩智浦或我們值得信賴的專業(yè)服務(wù)和支持 合作伙伴，該工具包可讓您輕松訪問我們不斷增長的選項(xiàng)列表 來自Au-Zone Technologies等公司的eIQ Marketplace。

圖3.eIQ 門戶提供了一種方便的模型驗(yàn)證方法和 測量精度。

使用 eIQ 門戶，您可以輕松創(chuàng)建、優(yōu)化、調(diào)試、轉(zhuǎn)換和 導(dǎo)出ML模型，以及從TensorFlow，ONNX導(dǎo)入數(shù)據(jù)集和模型 和 PyTorch ML 框架。您可以使用您的數(shù)據(jù)訓(xùn)練模型 “自帶數(shù)據(jù)”（BYOD） 流程，從預(yù)訓(xùn)練數(shù)據(jù)庫中進(jìn)行選擇 模型或使用“自帶模型”（BYOM） 導(dǎo)入預(yù)訓(xùn)練模型 流，例如Au-Zone技術(shù)的高級檢測模型。通過遵循簡單的 BYOM 過程，您可以使用 基于公共或私有云的工具，然后將模型傳輸?shù)絜IQ 在適當(dāng)?shù)墓鑳?yōu)化推理引擎上運(yùn)行的工具包。

圖4.eIQ 門戶為 BYOM 和 BYOD 提供了一種靈活的方法。

目標(biāo)圖形級分析功能為開發(fā)人員提供運(yùn)行時(shí) 微調(diào)和優(yōu)化系統(tǒng)參數(shù)、運(yùn)行時(shí)性能、 用于在 i.MX 設(shè)備上執(zhí)行的內(nèi)存使用情況和神經(jīng)網(wǎng)絡(luò)架構(gòu)。

加速恩智浦最新的eIQ推理引擎

機(jī)器學(xué)習(xí)開發(fā)項(xiàng)目的核心是推理引擎 – ML 應(yīng)用程序的運(yùn)行時(shí)組件。除了支持 使用各種基于社區(qū)的開源推理引擎進(jìn)行推理 針對 Glow、ONNX 和 TensorFlow Lite 等 i.MX 設(shè)備和 MCU 進(jìn)行了優(yōu)化，我們 已將 DeepViewRT 推理引擎添加到我們的 eIQ ML 軟件開發(fā)中 環(huán)境。

DeepViewRT與我們的合作伙伴Au-Zone Technologies合作開發(fā)，是一種專有的推理引擎，可提供穩(wěn)定，更長的時(shí)間 術(shù)語供應(yīng)商維護(hù)的解決方案，補(bǔ)充了基于社區(qū)的開放解決方案 推理引擎。

圖5.DeepViewRT 為 ML 應(yīng)用程序提供了穩(wěn)定、生產(chǎn)就緒且靈活的推理引擎。

DeepViewRT推理引擎可作為恩智浦MCUXpresso的中間件提供。 適用于Linux的SDK和Yocto BSP發(fā)布?基于操作系統(tǒng)的開發(fā)。

審核編輯：郭婷