104學習精靈

TensorFlow Lite for MCU正是專為邊緣裝置設計的TensorFlow模型預測框架，是TensorFlow的精簡版本，讓開發者可以在物聯網與嵌入式裝置中部署微型機器學習模型。 本課程將教授AI模型如何部署於微控制器，包含模型訓練、模型最佳化以及TensorFlow Lite框架的程式開發等。在實作上搭配Sparkfun edge board (ARM cortex M4)，說明如何以TensorFlow Lite 在微控制器上開發人工智慧專案。課程安排的三個專案實作，跨足AI在圖像、語音、感測訊號的三大應用領域，包含連續圖像輸入的人臉偵測、連續語音訊號輸入的語音識別、連續感測訊號輸入的姿態識別。在課程中也會特別解說MCU是如何處理這些讀入的連續輸入資料(包含圖像、語音、感測訊號)及模型輸出後的處理，才能讓AI系統更加穩健。 ✔搭配硬體，學習才有感 透過 SparkFun Edge 硬體裝置，實戰開發 TinyML 的AI應用。 ✔實戰三大AI專案，還提供程式源碼 進行微控制器上面的AI開發專案，包含人臉偵測、語音識別、姿態識別三大專案。 ✔老師傅才能讓你快速抓到開發的眉角 汲取業師的實務開發經驗，讓你少走冤枉路。縮短專案開發時程，就是省錢。 【學習目標】 1. 了解 Edge AI 的應用、限制與挑戰。 2. 了解 Tensorflow Lite for MCU 的軟體程式架構與開發流程。 3. 了解最佳化 ML 模型的方法：量化、剪枝、壓縮原理。 4. 了解 AI模型如何部署於微控制器，包含開發環境建立、模型訓練、模型最佳化等。 5. 了解 MCU該如何處理這些讀入的連續輸入資料(包含圖像、語音、感測訊號)及模型模型輸出後的處理等。 【章節架構】  Edge AI 與MCU起手式 1. 簡介MCU世界的邊緣運算 2. Edge AI(TinyML)的開發流程 3. SparkFun Edge Board硬體介紹 4. SparkFun Edge SDK架構說明 5. 建立編譯開發環境 6. 動手作 1) -建置第一個hello word專案 2) -LED 跑馬燈、按鍵讀取 3) -程式燒錄流程  Tensorflow Lite for MCU實作開發 1. AI於微控制器的開發流程說明 2. 優化: 模型量化、運算子優化 3. TF Lite FlatBuffer 格式 4. Tensorflow Lite for MCU程式框架說明 5. 專案實作 1) -揮動姿態識別(配合3軸加速器) 2) -偵測有無人臉(配合camera sensor) 3) -語音字詞識別(配合麥克風)

在AI人工智慧應用中，若所有資料都要回傳到雲端中心，計算之後再傳回終端的話，一定會有「網路延遲」產生，而這些延遲可能會對人類安全與生命財產造成嚴重威脅，比方說，自駕車偵測系統若識別前方的物件，先經由網路送至雲端再傳回結果，可能就會因延遲而造成不可挽回的意外事故;再者有些工廠的環境可能網路不穩定或者企業基於網路資安等問題而沒有網路。這些都使AI模型在雲端進行推論時有使用上的困難。 邊緣運算的概念正因此而生，不透過網路將資料傳送到雲端進行推論(Inference)，而是在本機端直接進行推論，加快現場即時反應，讓AI的使用場域更加全面且便利。然而在邊緣進行AI運算，會面臨到本機運算能力及記憶體容量限制等因素，因此也會有一些需要克服的難題，因此本課程先從技術架構、模型優化方法說明並搭配Raspberry Pi 結合Intel NCS2 神經網路加速棒，配合OpenVINO程式碼實作，以實現邊緣運算的應用。 資深講師先幫你打好原理底子，搭配實際操作更有感! 學會以OpenVINO（Open Visual Inference and Neural network Optimization）進行AI模型的格式轉換，進而能將AI模型部署在邊緣裝置上。 學會AI軟硬整合，實現邊緣運算之影像辨識應用 學會AI軟硬整合，實現邊緣運算之影像辨識應用（如人臉辨識與動態影像識別等）。 傳承業師實務開發經驗，提高學習者的AI邊緣運算應用之開效率。 學習目標 1. 學會以OpenVINO（Open Visual Inference and Neural network Optimization）進行AI模型的格式轉換，進而能將AI模型部署在邊緣裝置上。 2. 學會AI軟硬整合，實現邊緣運算之影像辨識應用 3. 學會AI軟硬整合，實現邊緣運算之影像辨識應用（如人臉辨識與動態影像識別等）。 4. 傳承業師實務開發經驗，提高學習者的AI邊緣運算應用之開效率。 章節架構 OpenVino邊緣運算實務 1. 邊緣運算 技術簡介 邊緣運算的開發架構 模型優化的概念 2. OpenVINO邊緣運算實務 Intel NCS2 神經網路加速棒簡介 OpenVINO Toolkit 架構說明 由Keras (.h5)模型轉成IR (.xml & .bin)檔案 Raspberry Pi 安裝OpenVINO 建立OpenVINO應用程式- 程式架構與CMAKE說明 專案: WebCam串流人臉偵測 專案:WebCam 即時手寫數字辨識 (OpenCV與MNIST)▼ 3. 基本Raspberry Pi 使用入門