|
【Arm的AI世界】運用小語言模型在邊緣端實現生成式AI
2 月13

【Arm的AI世界】運用小語言模型在邊緣端實現生成式AI

儘管大語言模型(LLM)更廣為人知,但由於小語言模型(SLM)能夠以更少資源、較低成本提供出色的效能,而且訓練起來也更為簡易且成本更低,因此受到越來越多的關注;Arm展示了搭載Ethos-U85 NPU的系統晶片解決方案如何在嵌入式硬體上運作小語言模型。

Read More
【AI x RPi】實測RPi 5的TensorFlow、TensorFlow Lite推論效能
6 月27

【AI x RPi】實測RPi 5的TensorFlow、TensorFlow Lite推論效能

本文介紹一個實測:使用相同的TensorFlow模型下,第五代樹莓派RPi 5的推論速度會比舊版得還要快;而若模型改成TensorFlow Lite的瘦身輕量版,RPi 5的速度就有機會跟Edge TPU相近!

Read More
【Arm的AI世界】利用Arm機器學習嵌入式評估套件快速部署Edge AI應用
1 月15

【Arm的AI世界】利用Arm機器學習嵌入式評估套件快速部署Edge AI應用

Cortex-M55處理器是Arm Cortex-M處理器中人工智慧功能最強大的,也是第一顆基於Arm Helium技術的CPU。儘管Cortex-M55在微小的微處理器上運作機器學習模型速度已經很快了,不過它與Arm Ethos-U55 microNPU完成整合後,在嵌入式系統中最快可讓機器學習推論速度提升480倍。本文將告訴大家如何運用開源的Arm機器學習嵌入式評估套件快速打造並部署嵌入式機器學習應用!

Read More
零基礎輕鬆入門Teachable Machine上手實作,訓練你的第一個AI模型!
1 月10

零基礎輕鬆入門Teachable Machine上手實作,訓練你的第一個AI模型!

Teachable Machine 是一個由Google於2007年推出的深度學習影像分類訓練工具,本影片將介紹Teachable Machine的由來、操作方式、以及實作訓練深度學習模型的步驟,使觀眾能輕鬆入門深度學習。

Read More
為開發者提供豐富軟硬體支援 Himax助力Edge AI創新
1 月08

為開發者提供豐富軟硬體支援 Himax助力Edge AI創新

奇景以專長的光學元件、影像顯示處理與感測器技術聞名,卻是全球市場上最早推出鎖定低功耗終端裝置應用AI處理器的晶片廠商之一,並透過參與tinyML基金會、提供開源工具等模式積極拉攏生態系夥伴與開發者社群,在新興Edge AI領域頗具聲量。

Read More
如何選擇最適合你的AI推論模型量化方案?
12 月10

如何選擇最適合你的AI推論模型量化方案?

AI推論模型主要透過量化(Quantization)、修剪(Pruning)和聚類(Clustering)三種方式進行最佳化,本文提出一個決策樹,幫助你選擇最適合的量化技術。

Read More