Edge AI開發平台比一比
|
Gemma 3n:本地端多模態 AI 模型登場
7 月03

Gemma 3n:本地端多模態 AI 模型登場

Gemma 3n 所帶來的不僅是一款模型,更是一個多模態 AI 的全新標竿。從模型設計、運行效能、微調便利性,到開源工具與資源的完整整合,它展現出 Google 在邊緣 AI 與跨模態模型領域的深厚實力。

Read More
「聽懂」海豚說什麼的AI模型:DolphinGemma
6 月03

「聽懂」海豚說什麼的AI模型:DolphinGemma

海豚研究人員與Google合作,運用AI大語言模型DophinGemma來理解海豚的溝通方式。

Read More
【技術導讀】Google推出Web API技術,用瀏覽器運行LLM沒問題!
10 月11

【技術導讀】Google推出Web API技術,用瀏覽器運行LLM沒問題!

Google推出網頁版 LLM 推論API,使在瀏覽器中運行小型大型語言模型(LLMs)成為可能。此一Web API技術的特色通過 WebAssembly 和 WebGPU 效率地利用設備端的 GPU 來加速運算,克服了記憶體限制,甚至可以在瀏覽器中運行更大的模型,例如Gemma 1.1 7B。

Read More
【Arm的AI世界】Kleidi助力開發人員加速AI創新
6 月27

【Arm的AI世界】Kleidi助力開發人員加速AI創新

Arm Kleidi是一項廣泛的軟體和軟體社群參與計畫,目的在於加速AI發展。首先推出運用於熱門AI框架的Arm Kleidi軟體函式庫,開發人員可以直接取得Arm CPU出色的AI功能;而如今全球從雲端到邊緣的大多數AI推論工作負載,都在這些Arm CPU上執行。

Read More
【2024 MAI Talks】打造小而美的 Local LLM 對話機器人
6 月17

【2024 MAI Talks】打造小而美的 Local LLM 對話機器人

淩耀電子經理林士允分享了如何打造小而美的 Local LLM(本地大型語言模型)對話機器人。

Read More
  為什麼Gemma採取Decoder-Only Transformer架構呢?
4 月08

  為什麼Gemma採取Decoder-Only Transformer架構呢?

本篇文章會說明Gemma為何會採取Decoder-Only Transformer架構,並針對Decoder-Only Transformer架構進行介紹。

Read More