【Arm的AI世界】Kleidi助力開發人員加速AI創新
Arm Kleidi是一項廣泛的軟體和軟體社群參與計畫,目的在於加速AI發展。首先推出運用於熱門AI框架的Arm Kleidi軟體函式庫,開發人員可以直接取得Arm CPU出色的AI功能;而如今全球從雲端到邊緣的大多數AI推論工作負載,都在這些Arm CPU上執行。
以LLaVA-NeXT和NNCF先進量化技術掌握多模態AI
在這篇文章中,我們將探索LLaVA-NeXT多模態聊天機器人Notebook,學習如何轉換和最佳化LLaVA-NeXT模型來打造多模態聊天機器人。此外,我們將探討如何在LLM部分應用有狀態轉換(stateful transformation)和使用NNCF進行權重壓縮和量化等模型最佳化技術。
釋放多模態AI的力量:利用Pix2Struct和Optimum Intel
多模態可以同時處理視覺、聽覺和文字資料,以驚人的深度和精確度解釋其環境;在這篇文章中,我們將深入探討多模態AI的能力,並探索Intel的OpenVINO工具套件如何最佳化這些複雜系統,以因應現實世界的應用。
【2024 MAI Talks】Embedded ML殺手級應用與系統規劃
ALIF 亞洲區市場行銷協理Sampan Chen從公司背景、技術優勢、產品開發、客戶實例等面向分析「Embedded ML殺手級應用與系統規劃」。
【2024 MAI Talks】如何拿大模型來訓練企業AI小模型
在「如何拿大模型來訓練企業AI小模型」的演講中,亞太AI高通量計算研究院高煥堂院長分享企業如何利用大模型來訓練AI小模型,以提升企業效能並創造競爭優勢。