許哲豪 | MakerPRO

9 月26

【Edge AI專欄】從臺灣智慧農業週2023 看邊緣智慧最新趨勢

Posted By 許哲豪 on 9 月 26, 2023 in AIGC, Edge AI應用案例, Edge AI開發地圖, vMaker, 案例研究, 產業趨勢

剛落幕的臺灣智慧農業週及臺灣國際海洋暨漁業產業展中有相當多廠商秀出AIoT應用，主要分為傳統的智慧監控、遙控、管理及新一代具有影像、聲音分析能力的邊緣智慧應用，本篇文章會針對後者幫大家簡單介紹幾項最新邊緣智慧的應用。

8 月27

【Edge AI專欄】親愛的我把AI模型縮小了- 模型減量與壓縮技術簡介

Posted By 許哲豪 on 8 月 27, 2023 in Edge AI教學文, Edge AI開發地圖, vMaker, 案例研究, 深度學習, 量化技術

雖然我們難以像蟻人或黃蜂女一樣把自己縮小而保持生理機能不變，但把超巨大的AI模型縮小而保持推論精度不變，還是有很多方法可以達到的。接下來我們就來幫大家簡單介紹一下幾種常見技術。

7 月25

【Edge AI專欄】TinyML (MCU AI) 運行效能誰說了算？

Posted By 許哲豪 on 7 月 25, 2023 in TinyML, vMaker, 案例研究

6月27日，公佈了Tiny v1.1測試結果報告，其中包括了台灣新唐科技(Nuvoton)及臺灣發展軟體科技(Skymizer)提交的亮眼成果。本篇文章會來幫大家解讀一下這份報告，讓大家能更了解未來單晶片運行AI的方向及可行性。

7 月04

【開箱評測】OpenVINO讓你不上網也能和Dolly聊聊天

Posted By 許哲豪 on 7 月 4, 2023 in Edge AI教學文, Hugging Face, Intel, LLM, OpenVINO, OpenVINO專欄, OpenVINO教學文, OpenVINO評測文, 教學文, 研華, 開箱文

以往在AI模型部署優化及推論部份，通常都會想到使用 Intel OpenVINO，不過大家多半只注意到它在「電腦視覺」相關的應用，殊不知自從2022.1版後就已開始加入許多「自然語言」的範例。而最近2023.0版又更加強GPU處理記憶體動態外形(Dynamic Shape)的能力，使得如生成型預訓練變換模型(GPT)這類基於轉換器(Transfomer)技術的大型語言模型能得到更好的實現。