邊緣運算實務

在AI人工智慧應用中，若所有資料都要回傳到雲端中心，計算之後再傳回終端的話，一定會有「網路延遲」產生，而這些延遲可能會對人類安全與生命財產造成嚴重威脅，比方說，自駕車偵測系統若識別前方的物件，先經由網路送至雲端再傳回結果，可能就會因延遲而造成不可挽回的意外事故;再者有些工廠的環境可能網路不穩定或者企業基於網路資安等問題而沒有網路。這些都使AI模型在雲端進行推論時有使用上的困難。 邊緣運算的概念正因此而生，不透過網路將資料傳送到雲端進行推論(Inference)，而是在本機端直接進行推論，加快現場即時反應，讓AI的使用場域更加全面且便利。然而在邊緣進行AI運算，會面臨到本機運算能力及記憶體容量限制等因素，因此也會有一些需要克服的難題，因此本課程先從技術架構、模型優化方法說明並搭配Raspberry Pi 結合Intel NCS2 神經網路加速棒，配合OpenVINO程式碼實作，以實現邊緣運算的應用。 資深講師先幫你打好原理底子，搭配實際操作更有感! 學會以OpenVINO（Open Visual Inference and Neural network Optimization）進行AI模型的格式轉換，進而能將AI模型部署在邊緣裝置上。 學會AI軟硬整合，實現邊緣運算之影像辨識應用 學會AI軟硬整合，實現邊緣運算之影像辨識應用（如人臉辨識與動態影像識別等）。 傳承業師實務開發經驗，提高學習者的AI邊緣運算應用之開效率。 學習目標 1. 學會以OpenVINO（Open Visual Inference and Neural network Optimization）進行AI模型的格式轉換，進而能將AI模型部署在邊緣裝置上。 2. 學會AI軟硬整合，實現邊緣運算之影像辨識應用 3. 學會AI軟硬整合，實現邊緣運算之影像辨識應用（如人臉辨識與動態影像識別等）。 4. 傳承業師實務開發經驗，提高學習者的AI邊緣運算應用之開效率。 章節架構 OpenVino邊緣運算實務 1. 邊緣運算 技術簡介 邊緣運算的開發架構 模型優化的概念 2. OpenVINO邊緣運算實務 Intel NCS2 神經網路加速棒簡介 OpenVINO Toolkit 架構說明 由Keras (.h5)模型轉成IR (.xml & .bin)檔案 Raspberry Pi 安裝OpenVINO 建立OpenVINO應用程式- 程式架構與CMAKE說明 專案: WebCam串流人臉偵測 專案:WebCam 即時手寫數字辨識 (OpenCV與MNIST)▼ 3. 基本Raspberry Pi 使用入門