|

人工智慧AI晶片與Maker創意接軌(下)

   

作者:許哲豪

「人工智慧AI晶片與Maker創意接軌 」的(上)篇中,認識了人工智慧、深度學習,以及深度學習技術的應用,以及(中)篇對市面上AI晶片的類型及解決方案現況做了完整剖析後,系列文到了最後一篇,將帶領各位Maker進入智能化的世界,你也能輕鬆成為一位AI應用創作者。

Maker如何進入AI領域?

對Maker而言,要如何進入智能化的世界呢?我們可從幾個方面來綜合評估:創作智能化目標、算力(AI晶片)、算法(模型/網路)、訓練資料及開發工具。

首先,確認創作內容的輸入和輸出項目為何?通常輸出與輸入的內容可能是數據(數值)、文字串、影像或語音。再來決定輸出的型式是分類(二分、多分類)還是迴歸(數值預測)問題(例如大小、位置、機率等)?或是更複雜的內容(例如一段影片、音樂、文章或連續動作產生)。

比方說想開發一台智能電扇,輸入的可能是一句話(命令、查詢)、一張影像(靜態手勢、表情等)、一段影片(動態手勢),或是溫濕度以及其它感測器。輸出的可能是一個動作(例如開關、調整電扇強度、轉動角度等)或是回答一句話(例如目前溫度、問候語句)。

小米智能風扇(來源

再舉一個例子,假設要開發一個智能花盆,輸入的可能是土壤溫濕度、酸鹼度、照度感測器所提供的數值,或是一張彩色影像、熱像圖或是一句詢問的話。輸出的可能是自動語音提醒、開關澆水設備或是預測開花時間等。

選擇合適的硬體平台

確認創作主題的輸入和輸出項目後,再來是為功能驗證選擇合適的硬體平台。

決定計算的硬體平台是在雲端、本地端(邊緣)或者混合計算,來決定可容許計算結果的反應時間(微秒或秒級)、正確率、誤判率。當然最重要的是產品製作成本,以及後續服務的費用是否能被接受。

大家可能會想說,還沒做怎麼知道系統複雜度及成本?其實通常直接使用雲端AI服務時,開發與硬體成本會低一些,執行時反應速度也會因為連網問題而慢一些,然而後續使用的服務費用會高一些。

反之,若以本地(邊緣)端硬體解決AI計算時,則製作成本及開發難度會高一些,不過後續通常不需要額外使用雲端服務的費用。若是預計使用雲端服務(例如:Google, Microsoft, AWS等)時,通常供應商會提供很清楚的費用評估。

假如想在本地端解決計算問題,則可用類推法,先在網路上找看看是否有類似的設計(部份亦可),參考別人用了哪些硬體平台(AI晶片)、算法(模型),則可以省去很多評估的時間。

可直接使用智能晶片

另外,目前已有很多常用的智能(AI)功能已被晶片化(詳見本系列(中)篇),可考慮直接買來用。如果只想開發軟體不想碰硬體,也可考慮直接用高階智能手機或SoC解決方案,或是採用像樹莓派這類Maker最常用的開發平台,加上Movidius (Intel)或海青智盈(Gyrfalcon)USB神經棒這類的AI加速工具,也能玩出許多新創意。像是Nvidia TX1這類的小型嵌入式開發板已包含強大的CPU及GPU可以提供強大算力,是個不錯的選擇。

Intel Movidius (source

接著要考慮的是訓練資料的來源,以及是否需要進行前處理或清理(Data Clean),確保訓練過程不會失控而無法收歛。當然以深度學習來說,資料數量及樣態越多時,訓練效果將會越好,然而訓練時間也會呈現幾何成長,費用也會相當驚人。因此犧牲一點正確率,通常訓練的資料量就能減少一些。

若輸入的內容是感測器的量測值或者是聲音時,則可能要注意取樣速度及資料穩定性,必要時加上一些硬體或軟體的濾波器(Filter)來穩定資料。若資料點數不多、輸出反應速度要求不高的情況下,有時可直接用CPU計算即可滿足需求。若輸入的是影像,在人眼還可以辨別之下,可考慮改成灰階或小一點的尺寸,這樣可減少許多訓練的時間。

有很多問題運用統計、特徵提取比較或是傳統機器學習方法就可完成智能化需求,至於是否要用到深度學習這類計算成本很高的作法,就要依實際創作內容來評估。假設無法避免使用深度學習這類方法來處理時,此時選用的硬體平台除了要考慮計算能力外,還要考慮開發時所需使用的程式語言(Python, C, Java)、工具包(SDK)、深度學習框架的支援性。因為AI晶片目前沒有統一的開發介面,所以只能盡量挑選有支援像TensorFlow、 Caffe、Mxnet 這類較流行的框架。

如果是使用手機的SoC方案時,在Android 8.0以上還有Android NN API,或者像Arm Project Trillium這類的工具協助整合CPU、GPU、NPU,以便開發AI相關應用,而少數AI晶片可支援例如OpenVX、Cuda或OpenCL等GPU專用平行計算語言,也可以考慮使用。

結論

在這個AI晶片百家爭鳴的時代,不管是從雲端(Cloud)到邊緣(Edge)再到晶片(Chip),甚至連生態圈(Ecosystem)都已有完整的發展且快速成長中,同時網路上也有取之不盡的免費教學資源,所以正是Maker創作智能化的最佳時代

俗話說:「沒有做不到只有想不到。」善用工具、發揮創意,相信不久的將來,每個人都會是最佳的AI應用創作者,就像在手機上開發程式一樣簡單。

各位Maker,就讓我們一起努力吧。

未來人人都可能是AI應用創作者

(本文同步發表於歐尼克斯實境互動工作室(OmniXRI);責任編輯:周政毅。)

 

許 哲豪
許 哲豪

Author: 許 哲豪

工作經驗超過二十年,主要專長機電整合、電腦視覺、人機互動、人工智慧、專利分析及新創輔導。曾任機電整合工程師、機器視覺研發副理、技轉中心商業發展經理。目前擔任多家公司兼任技術顧問並積極推廣實境互動相關技術。 主持歐尼克斯實境互動工作室(OmniXRI):http://omnixri.blogspot.com Edge AI Taiwan邊緣智能交流區:https://www.facebook.com/groups/edgeaitw/

Share This Post On

Submit a Comment

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *