作者：許哲豪
繼「人工智慧AI晶片與Maker創意接軌 」的（上）篇中，認識了人工智慧、深度學習，以及深度學習技術的應用，以及（中）篇對市面上AI晶片的類型及解決方案現況做了完整剖析後，系列文到了最後一篇，將帶領各位Maker進入智能化的世界，你也能輕鬆成為一位AI應用創作者。
Maker如何進入AI領域？
對Maker而言，要如何進入智能化的世界呢？我們可從幾個方面來綜合評估：創作智能化目標、算力（AI晶片）、算法（模型/網路）、訓練資料及開發工具。
首先，確認創作內容的輸入和輸出項目為何？通常輸出與輸入的內容可能是數據（數值）、文字串、影像或語音。再來決定輸出的型式是分類（二分、多分類）還是迴歸（數值預測）問題（例如大小、位置、機率等）？或是更複雜的內容（例如一段影片、音樂、文章或連續動作產生）。
比方說想開發一台智能電扇，輸入的可能是一句話（命令、查詢）、一張影像（靜態手勢、表情等）、一段影片（動態手勢），或是溫濕度以及其它感測器。輸出的可能是一個動作（例如開關、調整電扇強度、轉動角度等）或是回答一句話（例如目前溫度、問候語句）。
小米智能風扇（來源）
再舉一個例子，假設要開發一個智能花盆，輸入的可能是土壤溫濕度、酸鹼度、照度感測器所提供的數值，或是一張彩色影像、熱像圖或是一句詢問的話。輸出的可能是自動語音提醒、開關澆水設備或是預測開花時間等。
選擇合適的硬體平台
確認創作主題的輸入和輸出項目後，再來是為功能驗證選擇合適的硬體平台。
決定計算的硬體平台是在雲端、本地端（邊緣）或者混合計算，來決定可容許計算結果的反應時間（微秒或秒級）、正確率、誤判率。當然最重要的是產品製作成本，以及後續服務的費用是否能被接受。
大家可能會想說，還沒做怎麼知道系統複雜度及成本？其實通常直接使用雲端AI服務時，開發與硬體成本會低一些，執行時反應速度也會因為連網問題而慢一些，然而後續使用的服務費用會高一些。
反之，若以本地（邊緣）端硬體解決AI計算時，則製作成本及開發難度會高一些，不過後續通常不需要額外使用雲端服務的費用。若是預計使用雲端服務（例如：Google, Microsoft, AWS等）時，通常供應商會提供很清楚的費用評估。
假如想在本地端解決計算問題，則可用類推法，先在網路上找看看是否有類似的設計（部份亦可），參考別人用了哪些硬體平台（AI晶片）、算法（模型），則可以省去很多評估的時間。
可直接使用智能晶片
另外，目前已有很多常用的智能（AI）功能已被晶片化（詳見本系列(中)篇），可考慮直接買來用。如果只想開發軟體不想碰硬體，也可考慮直接用高階智能手機或SoC解決方案，或是採用像樹莓派這類Maker最常用的開發平台，加上Movidius （Intel）或海青智盈（Gyrfalcon）USB神經棒這類的AI加速工具，也能玩出許多新創意。像是Nvidia TX1這類的小型嵌入式開發板已包含強大的CPU及GPU可以提供強大算力，是個不錯的選擇。
Intel Movidius （source）
接著要考慮的是訓練資料的來源，以及是否需要進行前處理或清理（Data Clean），確保訓練過程不會失控而無法收歛。當然以深度學習來說，資料數量及樣態越多時，訓練效果將會越好，然而訓練時間也會呈現幾何成長，費用也會相當驚人。因此犧牲一點正確率，通常訓練的資料量就能減少一些。
若輸入的內容是感測器的量測值或者是聲音時，則可能要注意取樣速度及資料穩定性，必要時加上一些硬體或軟體的濾波器（Filter）來穩定資料。若資料點數不多、輸出反應速度要求不高的情況下，有時可直接用CPU計算即可滿足需求。若輸入的是影像，在人眼還可以辨別之下，可考慮改成灰階或小一點的尺寸，這樣可減少許多訓練的時間。
有很多問題運用統計、特徵提取比較或是傳統機器學習方法就可完成智能化需求，至於是否要用到深度學習這類計算成本很高的作法，就要依實際創作內容來評估。假設無法避免使用深度學習這類方法來處理時，此時選用的硬體平台除了要考慮計算能力外，還要考慮開發時所需使用的程式語言（Python, C, Java）、工具包（SDK）、深度學習框架的支援性。因為AI晶片目前沒有統一的開發介面，所以只能盡量挑選有支援像TensorFlow、 Caffe、Mxnet 這類較流行的框架。
如果是使用手機的SoC方案時，在Android 8.0以上還有Android NN API，或者像Arm Project Trillium這類的工具協助整合CPU、GPU、NPU，以便開發AI相關應用，而少數AI晶片可支援例如OpenVX、Cuda或OpenCL等GPU專用平行計算語言，也可以考慮使用。
結論
在這個AI晶片百家爭鳴的時代，不管是從雲端（Cloud）到邊緣（Edge）再到晶片（Chip），甚至連生態圈（Ecosystem）都已有完整的發展且快速成長中，同時網路上也有取之不盡的免費教學資源，所以正是Maker創作智能化的最佳時代。
俗話說：「沒有做不到只有想不到。」善用工具、發揮創意，相信不久的將來，每個人都會是最佳的AI應用創作者，就像在手機上開發程式一樣簡單。
各位Maker，就讓我們一起努力吧。
未來人人都可能是AI應用創作者
（本文同步發表於歐尼克斯實境互動工作室（OmniXRI）；責任編輯：周政毅。）
主持歐尼克斯實境互動工作室(OmniXRI)：http://omnixri.blogspot.com
Edge AI Taiwan邊緣智能交流區：https://www.facebook.com/groups/edgeaitw/
- Nvidia GTC 2024 提出的 FP8/FP4 如何加速AI訓練及推論 - 2024/03/27
- 【Edge AI專欄 #15】從MWC 2024看AI手機未來發展 - 2024/03/26
- 如何在Google Colab上運行OpenVINO Open Model Zoo範例 - 2024/03/07
