【2024 MAI Talks】用樹莓派玩轉Edge AI
當這個Maker愛用的單板電腦(SBC)遇上AI,會迸出什麼火花呢?這場「用樹莓派玩轉Edge AI」的演講即邀請到台灣樹莓派創辦人Sosorry來開講,帶Maker們看到無限可能。
【2024 MAI Talks】打造企業Local LLM的挑戰與策略
耐能智慧產品行銷協理陳宇春指出,企業在推動Local LLM應用時,需要關注服務化趨勢、模組整合、速度與適用性、資源管理等各方面的議題。
以LLaVA-NeXT和NNCF先進量化技術掌握多模態AI
在這篇文章中,我們將探索LLaVA-NeXT多模態聊天機器人Notebook,學習如何轉換和最佳化LLaVA-NeXT模型來打造多模態聊天機器人。此外,我們將探討如何在LLM部分應用有狀態轉換(stateful transformation)和使用NNCF進行權重壓縮和量化等模型最佳化技術。
釋放多模態AI的力量:利用Pix2Struct和Optimum Intel
多模態可以同時處理視覺、聽覺和文字資料,以驚人的深度和精確度解釋其環境;在這篇文章中,我們將深入探討多模態AI的能力,並探索Intel的OpenVINO工具套件如何最佳化這些複雜系統,以因應現實世界的應用。
【2024 MAI Talks】開發者如何選擇Edge AI開發方案?
Edge AI Taiwan版主Jack Hsu博士指出,從最小的晶片到高成本的伺服器解決方案,市場上的選擇豐富多樣。他強調了應用的多樣性和定制性,說明不同的計算需求和功耗會影響硬體選擇。