- 單元
- 教學文
【Maker電子學】步進馬達的原理與驅動—PART10
步進馬達系列最終回,介紹步進馬達的控制的技巧:電流回授控制及閉環路控制。
Nvidia GTC 2024 提出的 FP8/FP4 如何加速AI訓練及推論
新一代 GPU Blackwell B200 在硬體端提供了 FP4 計算能力,單片就可達 20 petaFLOPS,二片 B200 組成的 GB200 在訓練性能是前一代 H100 的 4 倍,推論性能更高達 7 倍。若再將 36個 CPU 加上 72 個 GPU 組成「GB200 NVL72」超大型伺服器,則 FP8 訓練能力可高達 720 petaFLOPS, FP4 推論能力更高達1.44 exaFLOPS。而究竟什麼是 FP8 / FP4 呢?本篇文章會簡單幫大家科普一下。
致敬?回敬?繼NVIDIA Chat with RTX後AMD亦推行LLM Studio
LLM/GenAI倚賴雲端資料中心機房裡龐大的運算力,才能即時完成推論結果並回應,一旦網路斷線就無法使用,同時,雲端執行也有洩漏公司機密或個人隱私等風險,鑑於此,不少人開始期待透過本地端或本機端執行LLM。本篇文章,就會介紹AMD推行的LLM Studio,其可下載於本地端進行簡單的聊天問答。
新唐發表以MCU/MPU為基礎的終端AI平台
以擴展AI生態系至微控制器(MCU)領域為目標,新唐科技(Nuvoton)宣布推出基於微控制器的終端AI平台;此解決方案以新唐全新架構設計的微控制器和微處理器為基礎,包括NuMicro MA35D1、NuMicro M467以及配備Arm Ethos-U55 NPU的NuMicro M55M1系列。
【Edge AI專欄 #15】從MWC 2024看AI手機未來發展
一年一度的世界通訊大會(MWC 2024)於2/26到2/29在西班牙巴塞隆納盛大舉行,此次重點落在了AI上,尤其是不靠連網、本機可獨立運算的生成式應用。為了讓大家更理解AI手機究竟有哪些方案供應商,硬體上究竟有哪些重大突破及軟體上到底能玩什麼應用,本篇文章會為各位一一介紹!
【CIRCUS Pi】使用 Arduino UNO R4 WiFi 遠端控制 LED 燈開關
本文將介紹如何利用Aruino UNO R4 WiFi更新後的遠程控制和監控設備功能,做出能遠端控制的LED燈開關。
【科編出身】編輯檯報告
這是一段開始於2002年的旅程…前方有什麼不太清楚,但我還是非常努力睜大眼睛、放開耳朵、敞開心胸,想把看到、聽到、學到的,轉達給每一個你/妳。
推探Google開源、輕量級大型語言模型Gemma
Google基於原有Gemini模型經驗與技術衍生打造Gemma模型,該模型為開放來源程式碼,滿足開源需要的開發者與用戶,有機會進行更多的延伸、衍生或更細深的客製。本篇文章就會對Gemma進行簡單的介紹。
【Maker電子學】步進馬達的原理與驅動—PART9
本篇文章介紹步進馬達驅動 IC A4988 做成的模組,並說明我們能如何應用這些模組。
【加點製造】會變色的 3D 列印材料?單一墨水就能創造繽紛色彩
不用換墨水材料就能變換顏色?一邊列印還可同時變色?這種 3D 列印材料除了更環保,還提升設計和製作的靈活性!
【Maker電子學】步進馬達的原理與驅動—PART10
步進馬達系列最終回,介紹步進馬達的控制的技巧:電流回授控制及閉環路控制。
Nvidia GTC 2024 提出的 FP8/FP4 如何加速AI訓練及推論
新一代 GPU Blackwell B200 在硬體端提供了 FP4 計算能力,單片就可達 20 petaFLOPS,二片 B200 組成的 GB200 在訓練性能是前一代 H100 的 4 倍,推論性能更高達 7 倍。若再將 36個 CPU 加上 72 個 GPU 組成「GB200 NVL72」超大型伺服器,則 FP8 訓練能力可高達 720 petaFLOPS, FP4 推論能力更高達1.44 exaFLOPS。而究竟什麼是 FP8 / FP4 呢?本篇文章會簡單幫大家科普一下。
【CIRCUS Pi】使用 Arduino UNO R4 WiFi 遠端控制 LED 燈開關
本文將介紹如何利用Aruino UNO R4 WiFi更新後的遠程控制和監控設備功能,做出能遠端控制的LED燈開關。
【Maker電子學】步進馬達的原理與驅動—PART9
本篇文章介紹步進馬達驅動 IC A4988 做成的模組,並說明我們能如何應用這些模組。
用OpenVINO與NNCF最佳化Whisper語音辨識模型
本文示範如何以OpenVINO與Optimum Intel載入並執行Whisper與Distil-Whisper模型進行音訊轉錄任務,以及如何使用NNCF對這些模型執行INT8訓練後量化;接著在橫跨多種CPU的裝置上以大規模語音轉文字資料集評估這些模型。
【實作實驗室】Wifi 安裝自己來!一文弄懂網路規劃基本概念
Wifi 網路要如何安裝?找廠商來處理會比較好嗎?並沒有,因為廠商會把你的網路改成適合他自己設備的設定…本篇文章講解網路基本概念與Wifi 網路架構,並說明如何規劃網路。
【Arm的AI世界】能將神經網路提升至更高境界的ML推論諮詢工具
Arm正在運用以支援AI快速發展為設計目標的解決方案,來打造邁向未來的路徑。其中的一項挑戰,是讓相關社群能夠取用新興的技術。在這篇部落格文章中我們將介紹Arm機器學習推論諮詢工具(Arm ML Inference Advisor,Arm MLIA),並讓大家看到如何運用它來提升Arm IP的模型效能。我們同時也會解釋一些相關的前置作業,以及為何這些作業如此重要。
如何在Google Colab上運行OpenVINO Open Model Zoo範例
本篇文章會以OMZ 影像分類(Classification) Public Pre-Trained Models為例,說明如何在Colab 上直接運行Intel Open Model Zoo。
如何在Windows平台呼叫NPU部署深度學習模型
在最新一代的Intel Core Ultra行動終端處理器中已經整合了簡稱為NPU的神經網路加速處理器,以提供低功耗的AI算力,而OpenVINO工具套件也在第一時間對NPU進行了配接。本文將帶領讀者一起看看如何在Intel Core Ultra處理器上搭建基礎環境,並呼叫NPU進行模型推論任務。
【Maker電子學】步進馬達的原理與驅動—PART8
本篇文章介紹步進馬達驅動 IC A4988 的電路設計。