|
如何選擇最適合你的AI推論模型量化方案？
12 月10

如何選擇最適合你的AI推論模型量化方案？

Posted By on 12 月 10, 2023 in Edge AI, Edge AI開發地圖, Edge AI開發環境, TensorFlow, 技術新訊, 量化技術

AI推論模型主要透過量化（Quantization）、修剪（Pruning）和聚類（Clustering）三種方式進行最佳化，本文提出一個決策樹，幫助你選擇最適合的量化技術。

Read More
活用IPEX和Intel GPU加速大型語言模型訓練效率
12 月05

活用IPEX和Intel GPU加速大型語言模型訓練效率

Posted By on 12 月 5, 2023 in AI關鍵技術, Edge AI開發地圖, Edge AI開發環境, Intel, LLM, OpenVINO, OpenVINO專欄, PyTorch, 技術新訊, 評測, 開箱文

以IPEX (Intel-Extension-for-PyTorch)搭配Intel硬體產品，可提供最佳化功能大幅提升運作效能。例如透過PyTorch的裝置來發揮Intel GPU的潛能，加速AI模型的訓練和推論。本篇文章將說明如何善用上述兩項產品來實現效能的大幅提升，仍然以微調訓練的範例來展現它們的特性，並說明其使用方法和流程。

Read More
【Maker 玩 AI】Edge Impulse 搭配 XIAO ESP32-S3 實作影像分類專題
12 月04

【Maker 玩 AI】Edge Impulse 搭配 XIAO ESP32-S3 實作影像分類專題

Posted By on 12 月 4, 2023 in Edge AI應用案例, Edge Impulse, ESP32, vMaker, 案例研究, 物件偵測, 特寫, 開發工具

說到近年最強勢的邊緣端 ML 平台，莫過於 Edge Impulse 莫屬了！軟體的易用性搭配硬體的廣泛支援，造就 Edge Impulse 在社大社群上的討論度都勇冠群雄。本篇筆者將實際操作 Edge Impulse 影像分類模型訓練，並且佈署到 XIAO ESP32S3 Sense 這個熱門 MCU 開發板上！

Read More
【CAVEDU講堂】MyGPTs：做一個具備指定技能的專屬 ChatGPT 吧！
11 月29

【CAVEDU講堂】MyGPTs：做一個具備指定技能的專屬 ChatGPT 吧！

Posted By on 11 月 29, 2023 in ChatGPT, Edge AI應用案例, Edge AI教學文, Edge AI開發地圖, 案例研究, 自造教育

近期OpenAI dev day 所發表各項更新中，最令人讚嘆的就是 GPTs，任何人都可以透過 GPTs 來做出專屬的 GPT 應用，本文將說明如何使用 GPTs editor 來自行設計出您專屬的 ChatGPT。

Read More
利用Intel平台提升LLM微調與訓練效率：ResNet50+LoRA範例
11 月29

利用Intel平台提升LLM微調與訓練效率：ResNet50+LoRA範例

Posted By on 11 月 29, 2023 in Edge AI教學文, Edge AI開發地圖, Intel, LLM, LoRA, OpenVINO, OpenVINO專欄, OpenVINO教學文, OpenVINO評測文, 教學文, 開箱文

本文將說明如何善用英特爾(Intel)所研發的新產品和相關技術，來提升AI模型的訓練效率，以便提供更優質的推論功能。為了循序漸進介紹上述的新產品及其相關的使用技術，本文先從大家熟悉ResNet50圖像分類模型做為起步範例，並搭配LoRA來進行外掛訓練，以便從這簡單範例中充分理解如何活用上述的創新產品及相關技術。

Read More
助力廣泛Edge AI應用落地　Arm Helium架構Cortex-M添「小尖兵」
11 月24

助力廣泛Edge AI應用落地　Arm Helium架構Cortex-M添「小尖兵」

Posted By on 11 月 24, 2023 in Arm, Arm, TinyML, 產品新訊, 產業趨勢

繼分別於2020年與2022年發表的Cortex-M55、Cortex-M85，以及可搭配Cortex-M系列平台的微神經網路處理器(microNPU) Ethos-U55，Arm近日發表其支援Helium架構的Cortex-M系列最新處理器核心Cortex-M52，旨在為需求更低功耗與成本方案的電池供電IoT裝置帶來更強化的AI功能，並催生更多創新Edge AI應用落地。

Read More