|
Nvidia GTC 2024 提出的 FP8/FP4 如何加速AI訓練及推論
3 月27

Nvidia GTC 2024 提出的 FP8/FP4 如何加速AI訓練及推論

新一代 GPU Blackwell B200 在硬體端提供了 FP4 計算能力,單片就可達 20 petaFLOPS,二片 B200 組成的 GB200 在訓練性能是前一代 H100 的 4 倍,推論性能更高達 7 倍。若再將 36個 CPU 加上 72 個 GPU 組成「GB200 NVL72」超大型伺服器,則 FP8 訓練能力可高達 720 petaFLOPS, FP4 推論能力更高達1.44 exaFLOPS。而究竟什麼是 FP8 / FP4 呢?本篇文章會簡單幫大家科普一下。

Read More
【CIRCUS Pi】使用 Arduino UNO R4 WiFi 遠端控制 LED 燈開關
3 月25

【CIRCUS Pi】使用 Arduino UNO R4 WiFi 遠端控制 LED 燈開關

本文將介紹如何利用Aruino UNO R4 WiFi更新後的遠程控制和監控設備功能,做出能遠端控制的LED燈開關。

Read More
【Maker電子學】步進馬達的原理與驅動—PART9
3 月20

【Maker電子學】步進馬達的原理與驅動—PART9

本篇文章介紹步進馬達驅動 IC A4988 做成的模組,並說明我們能如何應用這些模組。

Read More
用OpenVINO與NNCF最佳化Whisper語音辨識模型
3 月13

用OpenVINO與NNCF最佳化Whisper語音辨識模型

本文示範如何以OpenVINO與Optimum Intel載入並執行Whisper與Distil-Whisper模型進行音訊轉錄任務,以及如何使用NNCF對這些模型執行INT8訓練後量化;接著在橫跨多種CPU的裝置上以大規模語音轉文字資料集評估這些模型。

Read More
【實作實驗室】Wifi 安裝自己來!一文弄懂網路規劃基本概念
3 月12

【實作實驗室】Wifi 安裝自己來!一文弄懂網路規劃基本概念

Wifi 網路要如何安裝?找廠商來處理會比較好嗎?並沒有,因為廠商會把你的網路改成適合他自己設備的設定…本篇文章講解網路基本概念與Wifi 網路架構,並說明如何規劃網路。

Read More
【Arm的AI世界】能將神經網路提升至更高境界的ML推論諮詢工具
3 月12

【Arm的AI世界】能將神經網路提升至更高境界的ML推論諮詢工具

Arm正在運用以支援AI快速發展為設計目標的解決方案,來打造邁向未來的路徑。其中的一項挑戰,是讓相關社群能夠取用新興的技術。在這篇部落格文章中我們將介紹Arm機器學習推論諮詢工具(Arm ML Inference Advisor,Arm MLIA),並讓大家看到如何運用它來提升Arm IP的模型效能。我們同時也會解釋一些相關的前置作業,以及為何這些作業如此重要。

Read More