【Arm的AI世界】Kleidi助力開發人員加速AI創新
Arm Kleidi是一項廣泛的軟體和軟體社群參與計畫,目的在於加速AI發展。首先推出運用於熱門AI框架的Arm Kleidi軟體函式庫,開發人員可以直接取得Arm CPU出色的AI功能;而如今全球從雲端到邊緣的大多數AI推論工作負載,都在這些Arm CPU上執行。
用70美元來為第五代樹莓派添加AI套件!
近期樹莓派基金會發表了一個70美元的人工智慧(AI)套件,該套件附有一個轉接器,將RPi 5特有PCIe連接器轉成M.2介面,然後再與M.2介面的AI推論加速模組子卡連接,讓RPi 5系統獲得AI推論的硬體加速能力。
【2024 MAI Talks】以智慧感測平台實現TinyML落地應用
從邊緣設備到感測器,AI走下雲端進入終端,將在日常生活與各行各業實現具備龐大潛力與價值的不同應用。源壹科技資深產品經理賴南宏在以「用智慧感測平台實現TinyML的落地應用」為題之演說中,透過對該公司智慧感測硬體平台技術細節的介紹,以及未來趨勢以及實際應用案例的分享,讓聽眾對TinyML邊緣運算的「威力」有更深入的了解。
【創業小聚】英國史上最大筆AI募資!Wayve打造特斯拉「逆向」替代品,如何吸引NV、軟銀青睞?
Wayve將自身定位為Alphabet、特斯拉等投身於自動駕駛領域公司的「逆向」替代品。不同於競爭者將自動駕駛與車輛視為一體、同步進行車輛及技術的研發,Wayve不花費時間及心力進行車輛研發,而是選擇完全專注於人工智慧系統。
以LLaVA-NeXT和NNCF先進量化技術掌握多模態AI
在這篇文章中,我們將探索LLaVA-NeXT多模態聊天機器人Notebook,學習如何轉換和最佳化LLaVA-NeXT模型來打造多模態聊天機器人。此外,我們將探討如何在LLM部分應用有狀態轉換(stateful transformation)和使用NNCF進行權重壓縮和量化等模型最佳化技術。
釋放多模態AI的力量:利用Pix2Struct和Optimum Intel
多模態可以同時處理視覺、聽覺和文字資料,以驚人的深度和精確度解釋其環境;在這篇文章中,我們將深入探討多模態AI的能力,並探索Intel的OpenVINO工具套件如何最佳化這些複雜系統,以因應現實世界的應用。