【2024 MAI Talks】用樹莓派玩轉Edge AI
當這個Maker愛用的單板電腦(SBC)遇上AI，會迸出什麼火花呢？這場「用樹莓派玩轉Edge AI」的演講即邀請到台灣樹莓派創辦人Sosorry來開講，帶Maker們看到無限可能。
以LLaVA-NeXT和NNCF先進量化技術掌握多模態AI
在這篇文章中，我們將探索LLaVA-NeXT多模態聊天機器人Notebook，學習如何轉換和最佳化LLaVA-NeXT模型來打造多模態聊天機器人。此外，我們將探討如何在LLM部分應用有狀態轉換(stateful transformation)和使用NNCF進行權重壓縮和量化等模型最佳化技術。
【2024 MAI Talks】開發者如何選擇Edge AI開發方案？
Edge AI Taiwan版主Jack Hsu博士指出，從最小的晶片到高成本的伺服器解決方案，市場上的選擇豐富多樣。他強調了應用的多樣性和定制性，說明不同的計算需求和功耗會影響硬體選擇。
【2024 MAI Talks】Embedded ML殺手級應用與系統規劃
ALIF 亞洲區市場行銷協理Sampan Chen從公司背景、技術優勢、產品開發、客戶實例等面向分析「Embedded ML殺手級應用與系統規劃」。
LangChain框架已正式支援OpenVINO！
透過LangChain，開發者可以輕鬆構建基於RAG或者Agent流水線的複雜應用體系，而目前我們已經可以在LangChain 的關鍵元件LLM、Text Embedding和Reranker中直接呼叫OpenVINO進行模型部署！