OpenVINO工具套件AI程式講座
|
AI運算雲平台比較:NVIDIA vs. Intel vs. Qualcomm
3 月07

AI運算雲平台比較:NVIDIA vs. Intel vs. Qualcomm

本文將針對NVIDIA、Intel及Qualcomm這三家提供的AI雲平台進行定位與應用場景進行比較,有不同需求可選擇適合的平台來部署自己的 AI 應用。

Read More
認識Qualcomm AI 模型優化工具:AIMET
3 月04

認識Qualcomm AI 模型優化工具:AIMET

AIMET是 Qualcomm 開發的一套 AI 模型優化工具,它透過壓縮和量化技術來縮小模型,同時保持任務的準確性,有助於提高其在資源受限設備(如手機、邊緣裝置、IoT 設備)上的運行效率。

Read More
認識超輕量語言模型 TinyLlama – 只有1.1B!
3 月02

認識超輕量語言模型 TinyLlama – 只有1.1B!

TinyLlama 是一款 1.1 B參數的 小型語言模型(SLM, Small Language Model),由 TinyLlama 團隊 開發,旨在提供高效、輕量級的語言模型,適用於資源受限的環境,如行動裝置、邊緣計算與嵌入式系統。

Read More
AI物件辨識技術比一比:ViT vs YOLO
2 月25

AI物件辨識技術比一比:ViT vs YOLO

ViT(Vision Transformer)與 YOLO(You Only Look Once)都是知名的物件辨識技術,但它們在架構、應用場景和優勢方面有明顯的不同,本文將針對兩大技術來做一個比較。

Read More
藉DeepSeek雜談AI技術觀念
2 月14

藉DeepSeek雜談AI技術觀念

DeepSeek讓大語言模型再掀熱潮,以低費用、少量運算力、短暫時間就訓練出與今日主流大語言模型相仿的表現,讓各界吃驚。不過有關DeepSeek的各種說法,有時候有些混淆,筆者藉此文想聊一下,或許可以幫一些人釐清,或讓平時對AI有興趣的人有更深刻的瞭解。

Read More
【Arm的AI世界】運用小語言模型在邊緣端實現生成式AI
2 月13

【Arm的AI世界】運用小語言模型在邊緣端實現生成式AI

儘管大語言模型(LLM)更廣為人知,但由於小語言模型(SLM)能夠以更少資源、較低成本提供出色的效能,而且訓練起來也更為簡易且成本更低,因此受到越來越多的關注;Arm展示了搭載Ethos-U85 NPU的系統晶片解決方案如何在嵌入式硬體上運作小語言模型。

Read More