Gemma 3n:本地端多模態 AI 模型登場
Gemma 3n 所帶來的不僅是一款模型,更是一個多模態 AI 的全新標竿。從模型設計、運行效能、微調便利性,到開源工具與資源的完整整合,它展現出 Google 在邊緣 AI 與跨模態模型領域的深厚實力。
【技術導讀】Google推出Web API技術,用瀏覽器運行LLM沒問題!
Google推出網頁版 LLM 推論API,使在瀏覽器中運行小型大型語言模型(LLMs)成為可能。此一Web API技術的特色通過 WebAssembly 和 WebGPU 效率地利用設備端的 GPU 來加速運算,克服了記憶體限制,甚至可以在瀏覽器中運行更大的模型,例如Gemma 1.1 7B。
【Arm的AI世界】Kleidi助力開發人員加速AI創新
Arm Kleidi是一項廣泛的軟體和軟體社群參與計畫,目的在於加速AI發展。首先推出運用於熱門AI框架的Arm Kleidi軟體函式庫,開發人員可以直接取得Arm CPU出色的AI功能;而如今全球從雲端到邊緣的大多數AI推論工作負載,都在這些Arm CPU上執行。
為什麼Gemma採取Decoder-Only Transformer架構呢?
本篇文章會說明Gemma為何會採取Decoder-Only Transformer架構,並針對Decoder-Only Transformer架構進行介紹。