人工智能（AI）是計(jì)算機(jī)科學(xué)的一個(gè)分支，它企圖了解智能的實(shí)質(zhì)，并生產(chǎn)出一種新的能以人類智能相似的方式做出反應(yīng)的智能機(jī)器，該領(lǐng)域的研究包括機(jī)器人、語(yǔ)言識(shí)別、圖像識(shí)別、自然語(yǔ)言處理和專家系統(tǒng)等。人工智能從誕生以來(lái)，理論和技術(shù)日益成熟，應(yīng)用領(lǐng)域也不斷擴(kuò)大，可以設(shè)想未來(lái)人工智能帶來(lái)的科技產(chǎn)品，將會(huì)是人類智慧的“容器”。人工智能可以對(duì)人的意識(shí)、思維的信息過(guò)程的模擬。人工智能不是人的智能，但能像人那樣思考、也可能超過(guò)人的智能。
 
但隨著AI從云到邊緣的發(fā)展，使得這一觀點(diǎn)正在迅速改變，AI計(jì)算引擎使MCU能夠突破嵌入式應(yīng)用可能的極限，嵌入式設(shè)計(jì)已經(jīng)能夠提高網(wǎng)絡(luò)攻擊的實(shí)時(shí)響應(yīng)能力和設(shè)備安全性。
 
支持AI的MCU
云計(jì)算推動(dòng)了對(duì)具有AI功能的MCU的需求；它減少了數(shù)據(jù)傳輸所需的帶寬，并節(jié)省了云服務(wù)器的處理能力，如下圖。
   
配備AI算法的MCU正在應(yīng)用包含對(duì)象識(shí)別，啟用語(yǔ)音服務(wù)和自然語(yǔ)言處理等功能的應(yīng)用程序。它們還有助于提高物聯(lián)網(wǎng)（IoT），可穿戴設(shè)備和醫(yī)療應(yīng)用中電池供電設(shè)備的準(zhǔn)確性和數(shù)據(jù)隱私性。
 
那么，MCU如何在邊緣和節(jié)點(diǎn)設(shè)計(jì)中實(shí)現(xiàn)AI功能？下面簡(jiǎn)要介紹了三種基本方法，這些方法使MCU能夠在IoT網(wǎng)絡(luò)邊緣執(zhí)行AI加速。
 
三個(gè)MCU + AI場(chǎng)合
第一種方法（可能是最常見(jiàn)的方法）涉及各種神經(jīng)網(wǎng)絡(luò)（NN）框架（例如Caffe 2，TensorFlow Lite和Arm NN）的模型轉(zhuǎn)換，用于在MCU上部署云訓(xùn)練的模型和推理引擎。有一些軟件工具可以從云中獲取經(jīng)過(guò)預(yù)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)，并通過(guò)將其轉(zhuǎn)換為C代碼來(lái)針對(duì)MCU進(jìn)行優(yōu)化。

在MCU上運(yùn)行的優(yōu)化代碼可以在語(yǔ)音，視覺(jué)和異常檢測(cè)應(yīng)用程序中執(zhí)行AI功能。工程師可以將這些工具集下載到MCU配置中，并運(yùn)行優(yōu)化神經(jīng)網(wǎng)絡(luò)的推論。這些AI工具集還提供了基于神經(jīng)網(wǎng)絡(luò)的AI應(yīng)用程序的代碼示例。
 
AI執(zhí)行模型轉(zhuǎn)換工具可以在低成本和低功耗MCU上運(yùn)行優(yōu)化神經(jīng)網(wǎng)絡(luò)的推論，如下圖所示。
 
第二種方法是繞過(guò)了對(duì)從云借用的預(yù)訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型的需求，設(shè)計(jì)人員可以將AI庫(kù)集成到微控制器中，并將本地AI培訓(xùn)和分析功能納入其代碼中。
 
隨后開(kāi)發(fā)人員可以基于從邊緣的傳感器，麥克風(fēng)和其他嵌入式設(shè)備獲取的信號(hào)來(lái)創(chuàng)建數(shù)據(jù)模型，并運(yùn)行諸如預(yù)測(cè)性維護(hù)和模式識(shí)別之類的應(yīng)用程序。
 
第三種方法是AI專用協(xié)處理器的可用性使MCU供應(yīng)商能夠加快機(jī)器學(xué)習(xí)功能的部署。諸如Arm Cortex-M33之類的協(xié)處理器利用了諸如CMSIS-DSP之類的流行API來(lái)簡(jiǎn)化代碼的可移植性，從而使MCU與協(xié)處理器緊密耦合，可加快AI功能，如協(xié)處理相關(guān)和矩陣運(yùn)算。
 
上述軟件和硬件平臺(tái)演示了如何通過(guò)根據(jù)嵌入式設(shè)計(jì)要求開(kāi)發(fā)的推理引擎在低成本MCU中實(shí)現(xiàn)AI功能。這很關(guān)鍵，因?yàn)橹С諥I的MCU很有可能在IoT，工業(yè)，智能建筑和醫(yī)療應(yīng)用中改變嵌入式設(shè)備的設(shè)計(jì)。

關(guān)鍵詞：MCU