|
利用Intel平台提升LLM微調與訓練效率:ResNet50+LoRA範例
11 月29

利用Intel平台提升LLM微調與訓練效率:ResNet50+LoRA範例

本文將說明如何善用英特爾(Intel)所研發的新產品和相關技術,來提升AI模型的訓練效率,以便提供更優質的推論功能。為了循序漸進介紹上述的新產品及其相關的使用技術,本文先從大家熟悉ResNet50圖像分類模型做為起步範例,並搭配LoRA來進行外掛訓練,以便從這簡單範例中充分理解如何活用上述的創新產品及相關技術。

Read More
【CIRCUS Pi】功能最豐富的 ESP32 開發套件 – M5Stack CoreS3開箱評測
10 月05

【CIRCUS Pi】功能最豐富的 ESP32 開發套件 – M5Stack CoreS3開箱評測

M5Stack 最經典的 Core 系列,就是以五公分乘五公分的大小,並且可以模組化進行堆疊,才會有 M5Stack 品牌名稱,而最新的 CoreS3 有哪些特色和功能呢?一起來看看!

Read More
以AI進行無人機巡檢河川地貌分析
9 月15

以AI進行無人機巡檢河川地貌分析

由於工業科技快速發展,環境議題一直備受討論與重視;近幾年,由於邊緣運算、AI、硬體加速與無人機等技術趨於成熟,公民營機構--尤以公部門為首--開始思考是否能借助科技的力量來進行環境工程,本文即以AI物件分割技術作為技術基礎,配合台中市環保局河川揚塵防治計畫進行河床地貌影像分割。

Read More
【開箱評測】OpenVINO讓你不上網也能和Dolly聊聊天
7 月04

【開箱評測】OpenVINO讓你不上網也能和Dolly聊聊天

以往在AI模型部署優化及推論部份,通常都會想到使用 Intel OpenVINO,不過大家多半只注意到它在「電腦視覺」相關的應用,殊不知自從2022.1版後就已開始加入許多「自然語言」的範例。而最近2023.0版又更加強GPU處理記憶體動態外形(Dynamic Shape)的能力,使得如生成型預訓練變換模型(GPT)這類基於轉換器(Transfomer)技術的大型語言模型能得到更好的實現。

Read More
【開箱評測】MTDuino IOT開發板:NB-IoT及GPS功能介紹
5 月07

【開箱評測】MTDuino IOT開發板:NB-IoT及GPS功能介紹

為提供快速開發物聯網各種應用,解決移動型不同應用場域,邁特電子特別推出一款具裝置省電、長距離傳輸、低功耗通訊廣域網路等多功能的開發板,本篇文章會對此進行詳細介紹。

Read More
【開箱評測】巴掌大的迷你主機也能跑出高效AI推論表現!
5 月04

【開箱評測】巴掌大的迷你主機也能跑出高效AI推論表現!

為了更進一步了解這類迷你主機在AI推論效能的表現,此次選用東擎(ASRock Industrial) NUC BOX-1260P作為測試機,AI推論部份則選用OpenVINO 2022.3版作為基礎工具。而測試項目則使用OpenVINO Notebooks中最新的物件偵測「Convert and Optimize YOLOv8 with OpenVINO」範例作為實測效能的分析。

Read More