- 單元
- 教學文
LoRA微調三步驟:以大語言模型MT5為例
本篇文章,將以MT5-small預訓練大模型為例,並以Python源碼(Source Code)來說明如何進行LoRA微調三步驟。
【Maker電子學】Flash 記憶體的原理與應用—PART1(NVM)
本篇文章為該系列的第一篇,主要先介紹非揮發性記憶體(Non-Volatile Memory)的發展過程。
具TinyML功效的開放硬體智慧錶專案:FryPi
開放硬體專案OV-Watch推出進階版的FryPi專案,它是以OV-Watch為基礎進行改進提升,這次希望一般初學者跟專業人士都能輕鬆運用,而且加入TinyML能力。本篇文章會簡單對此專案進行介紹。
【Edge AI專欄】AIPC開箱實測 ─ Yolov8斜物件偵測
本篇文章會使用Asus NUC 14 PRO來進行AI推論應用,並從AIPC 硬體規格、安裝工作環境、旋轉物件偵測及在不同硬體運行效能分析比較等方面幫大家做一個完整的介紹。
讓生成式AI「靠邊」 Nvidia展現軟硬兼施真功夫
為了讓更多開發者了解生成式AI技術的魅力所在,以及Nvidia的Jetson系列平台在部署Edge AI應用時發揮的關鍵作用,Nvidia代理商益登科技(EDOM)與MakerPRO合作舉辦了一場線上講座,帶領聽眾探索生成式AI新技術將如何顛覆各行各業的運作模式
【開箱評測】看研華科技 AIR-150 搭載 Hailo-8 26TOPS AI推論晶片如何成為邊緣智慧新利器
本篇文章會對研華科技的微型工業電腦 AIR-150 進行評測。這款機器內搭 M.2 型式 Hailo-8 高效 AI 加速模組,具有 26 TOPS 推論能力,正好可以解決惡劣環境、空間窄小及AI應用推論算力不足的問題。
Himax展示新一代WiseEye超低功耗AI智慧感測方案
奇景光電(Himax)日前展示了該公司WiseEye超低功耗AI智慧感測解決方案的多項應用,包括最新的掌靜脈身份辨識技術。奇景光電執行長吳炳昌表示,該公司特別看好市場對於能在電池供電裝置上執行AI功能的需求,特別是與機器視覺相關的應用…
LLM/GenAI的回答會造成危害嗎?MLCommons提出衡量規範草案
針對LLM/GenAI會否造成危害?該如何衡量危害程度?對此MLCommons在今年4月提出LLM的安全性測試標準,稱為MLCommons AI Safety,目前僅為0.5版,其中是如何規範的呢?
【Arm的AI世界】以ExecuTorch與TOSA讓PyTorch在Arm平台順利運作
Arm與Meta密切合作在ExecuTorch導入對Arm裝置的初步支援,以Tensor運算子集架構(TOSA)為基礎擷取類神經網路,並利用Ethos NPU在行動及嵌入式平台加速關鍵的ML工作負載…快來了解如何使用PyTorch及ExecuTorch以TOSA將圖形匯出至Arm平台!
用OpenVINO C# API部署YOLOv9目標檢測和實例分割模型
YOLOv9模型是YOLO系列即時目標檢測演算法中的最新版本,代表著該系列在準確性、速度和效率方面的又一次重大飛躍。在本文中,我們將結合OpenVINO C# API使用最新發佈的OpenVINO 2024.0部署YOLOv9目標檢測和實例分割模型。
LoRA微調三步驟:以大語言模型MT5為例
本篇文章,將以MT5-small預訓練大模型為例,並以Python源碼(Source Code)來說明如何進行LoRA微調三步驟。
【Arm的AI世界】以ExecuTorch與TOSA讓PyTorch在Arm平台順利運作
Arm與Meta密切合作在ExecuTorch導入對Arm裝置的初步支援,以Tensor運算子集架構(TOSA)為基礎擷取類神經網路,並利用Ethos NPU在行動及嵌入式平台加速關鍵的ML工作負載…快來了解如何使用PyTorch及ExecuTorch以TOSA將圖形匯出至Arm平台!
用OpenVINO C# API部署YOLOv9目標檢測和實例分割模型
YOLOv9模型是YOLO系列即時目標檢測演算法中的最新版本,代表著該系列在準確性、速度和效率方面的又一次重大飛躍。在本文中,我們將結合OpenVINO C# API使用最新發佈的OpenVINO 2024.0部署YOLOv9目標檢測和實例分割模型。
【CAVEDU講堂】《Arduino首次接觸就上手》新手村教學:LED燈閃爍
本文將利用非常適合初學者的《Arduino首次接觸就上手》套件,帶領讀者快速掌握 Arduino 的基礎操作,完成一個 LED 燈閃爍專案。
為什麼Gemma採取Decoder-Only Transformer架構呢?
本篇文章會說明Gemma為何會採取Decoder-Only Transformer架構,並針對Decoder-Only Transformer架構進行介紹。
如何從0訓練企業自用Gemma模型
Gemma模型是Text到Text的大型語言模型,非常適合各種文本生成任務。其有多種使用途徑,包括使用新資料來微調Gemma模型、拿Gemma開源程式碼,而從頭開始訓練它,本文將介紹如何從0訓練企業自用Gemma模型。
【Maker電子學】步進馬達的原理與驅動—PART10
步進馬達系列最終回,介紹步進馬達的控制的技巧:電流回授控制及閉環路控制。
Nvidia GTC 2024 提出的 FP8/FP4 如何加速AI訓練及推論
新一代 GPU Blackwell B200 在硬體端提供了 FP4 計算能力,單片就可達 20 petaFLOPS,二片 B200 組成的 GB200 在訓練性能是前一代 H100 的 4 倍,推論性能更高達 7 倍。若再將 36個 CPU 加上 72 個 GPU 組成「GB200 NVL72」超大型伺服器,則 FP8 訓練能力可高達 720 petaFLOPS, FP4 推論能力更高達1.44 exaFLOPS。而究竟什麼是 FP8 / FP4 呢?本篇文章會簡單幫大家科普一下。
【CIRCUS Pi】使用 Arduino UNO R4 WiFi 遠端控制 LED 燈開關
本文將介紹如何利用Aruino UNO R4 WiFi更新後的遠程控制和監控設備功能,做出能遠端控制的LED燈開關。
【Maker電子學】步進馬達的原理與驅動—PART9
本篇文章介紹步進馬達驅動 IC A4988 做成的模組,並說明我們能如何應用這些模組。