【COMPUTEX 2024】遍地開花的Edge AI方案
許多物聯網閘道器、邊緣運算系統是使用與大宗個人電腦相同的x86架構所構成,加上樹莓派也朝完整電腦方向發展,因此,本文嘗試從台北國際電腦展(COMPUTEX)上找尋Edge AI相關的技術蹤跡。
【2024 MAI Talks】以智慧感測平台實現TinyML落地應用
從邊緣設備到感測器,AI走下雲端進入終端,將在日常生活與各行各業實現具備龐大潛力與價值的不同應用。源壹科技資深產品經理賴南宏在以「用智慧感測平台實現TinyML的落地應用」為題之演說中,透過對該公司智慧感測硬體平台技術細節的介紹,以及未來趨勢以及實際應用案例的分享,讓聽眾對TinyML邊緣運算的「威力」有更深入的了解。
【2024 MAI Talks】用樹莓派玩轉Edge AI
當這個Maker愛用的單板電腦(SBC)遇上AI,會迸出什麼火花呢?這場「用樹莓派玩轉Edge AI」的演講即邀請到台灣樹莓派創辦人Sosorry來開講,帶Maker們看到無限可能。
以LLaVA-NeXT和NNCF先進量化技術掌握多模態AI
在這篇文章中,我們將探索LLaVA-NeXT多模態聊天機器人Notebook,學習如何轉換和最佳化LLaVA-NeXT模型來打造多模態聊天機器人。此外,我們將探討如何在LLM部分應用有狀態轉換(stateful transformation)和使用NNCF進行權重壓縮和量化等模型最佳化技術。
【2024 MAI Talks】開發者如何選擇Edge AI開發方案?
Edge AI Taiwan版主Jack Hsu博士指出,從最小的晶片到高成本的伺服器解決方案,市場上的選擇豐富多樣。他強調了應用的多樣性和定制性,說明不同的計算需求和功耗會影響硬體選擇。