|
【CIRCUS Pi】Seeed Studio XIAO ESP32-S3 Sense-ESP32CAM 進化版?
12 月28

【CIRCUS Pi】Seeed Studio XIAO ESP32-S3 Sense-ESP32CAM 進化版?

ESP32S3 Sense 是 XIAO 家族系列最新的開發板,同時在這塊板子上也有不少突破點,除了搭載了新的核心 ESP32S3 之外,還使用了板對板連接器使其可以在維持相同面積的 PCB 條件下,擴充了 IO 的數量與功能。

Read More
運用BF16與NHWC技術實現進階版LLM微調訓練最佳化
12 月18

運用BF16與NHWC技術實現進階版LLM微調訓練最佳化

本文要來介紹如何利用BF16半精度浮點數以及將影像資料設為NHWC格式兩項技術,來最佳化大型AI模型的訓練速度與記憶體節省,並延續以微調模型訓練為範例,透過完整程式碼來示範如何發揮這兩項新技術的用法和魅力。

Read More
活用IPEX和Intel GPU加速大型語言模型訓練效率
12 月05

活用IPEX和Intel GPU加速大型語言模型訓練效率

以IPEX (Intel-Extension-for-PyTorch)搭配Intel硬體產品,可提供最佳化功能大幅提升運作效能。例如透過PyTorch的裝置來發揮Intel GPU的潛能,加速AI模型的訓練和推論。本篇文章將說明如何善用上述兩項產品來實現效能的大幅提升,仍然以微調訓練的範例來展現它們的特性,並說明其使用方法和流程。

Read More
比前一代快多少?第五代樹莓派效能數據揭露
10 月26

比前一代快多少?第五代樹莓派效能數據揭露

第五代樹莓派比前一代相同RAM容量的版本貴個5美元,但貴這5美元是否值得呢?已經有各方單位對RPi 5進行各種效能測試,用各種標竿、Benchmark軟體來測,本文就來解析這些數據,從中研判合算性,供各方創客Maker參考。

Read More
【開箱評測】MTDuino IOT開發板:NB-IoT及GPS功能介紹
5 月07

【開箱評測】MTDuino IOT開發板:NB-IoT及GPS功能介紹

為提供快速開發物聯網各種應用,解決移動型不同應用場域,邁特電子特別推出一款具裝置省電、長距離傳輸、低功耗通訊廣域網路等多功能的開發板,本篇文章會對此進行詳細介紹。

Read More
【開箱評測】巴掌大的迷你主機也能跑出高效AI推論表現!
5 月04

【開箱評測】巴掌大的迷你主機也能跑出高效AI推論表現!

為了更進一步了解這類迷你主機在AI推論效能的表現,此次選用東擎(ASRock Industrial) NUC BOX-1260P作為測試機,AI推論部份則選用OpenVINO 2022.3版作為基礎工具。而測試項目則使用OpenVINO Notebooks中最新的物件偵測「Convert and Optimize YOLOv8 with OpenVINO」範例作為實測效能的分析。

Read More