應援LLM邊緣推論任務 Skymizer以LPU加速生成式AI遍地開花
市場新秀Skymizer於2025年Computex前發表號稱功能更強大的新一代LPU產品HyperThought，採用由該公司自主開發的最新3.0版LISA，強調對多模態AI、多模型並行執行以及代理式AI的支援…
小型語言模型趨勢觀察與體驗
相對於大語言模型，小語言模型是將LLM縮小、輕量化，以在PC上執行並方便微調的版本；兩者其實沒有很清晰的分界，一般認定70億個參數以下的模型即可視為小模型。
【Arm的AI世界】運用小語言模型在邊緣端實現生成式AI
儘管大語言模型(LLM)更廣為人知，但由於小語言模型(SLM)能夠以更少資源、較低成本提供出色的效能，而且訓練起來也更為簡易且成本更低，因此受到越來越多的關注；Arm展示了搭載Ethos-U85 NPU的系統晶片解決方案如何在嵌入式硬體上運作小語言模型。
【Arm的AI世界】Kleidi助力開發人員加速AI創新
Arm Kleidi是一項廣泛的軟體和軟體社群參與計畫，目的在於加速AI發展。首先推出運用於熱門AI框架的Arm Kleidi軟體函式庫，開發人員可以直接取得Arm CPU出色的AI功能；而如今全球從雲端到邊緣的大多數AI推論工作負載，都在這些Arm CPU上執行。
如何客製化企業 RAG 知識庫？— 從資料庫到知識整合的實戰技術
