【COMPUTEX 2024】遍地開花的Edge AI方案
許多物聯網閘道器、邊緣運算系統是使用與大宗個人電腦相同的x86架構所構成,加上樹莓派也朝完整電腦方向發展,因此,本文嘗試從台北國際電腦展(COMPUTEX)上找尋Edge AI相關的技術蹤跡。
【創業小聚】英國史上最大筆AI募資!Wayve打造特斯拉「逆向」替代品,如何吸引NV、軟銀青睞?
Wayve將自身定位為Alphabet、特斯拉等投身於自動駕駛領域公司的「逆向」替代品。不同於競爭者將自動駕駛與車輛視為一體、同步進行車輛及技術的研發,Wayve不花費時間及心力進行車輛研發,而是選擇完全專注於人工智慧系統。
以LLaVA-NeXT和NNCF先進量化技術掌握多模態AI
在這篇文章中,我們將探索LLaVA-NeXT多模態聊天機器人Notebook,學習如何轉換和最佳化LLaVA-NeXT模型來打造多模態聊天機器人。此外,我們將探討如何在LLM部分應用有狀態轉換(stateful transformation)和使用NNCF進行權重壓縮和量化等模型最佳化技術。
釋放多模態AI的力量:利用Pix2Struct和Optimum Intel
多模態可以同時處理視覺、聽覺和文字資料,以驚人的深度和精確度解釋其環境;在這篇文章中,我們將深入探討多模態AI的能力,並探索Intel的OpenVINO工具套件如何最佳化這些複雜系統,以因應現實世界的應用。
LangChain框架已正式支援OpenVINO!
透過LangChain,開發者可以輕鬆構建基於RAG或者Agent流水線的複雜應用體系,而目前我們已經可以在LangChain 的關鍵元件LLM、Text Embedding和Reranker中直接呼叫OpenVINO進行模型部署!
【負責任的AI】避免人工智慧誤用、濫用!已有國際標準可循
其實科技也有許多副作用,例如大數據雖然可以使廣告投放更加精準,但也有了侵犯隱私的疑慮。科技的副作用如何透過新訂的法律規章加以管束,民眾又當如何自保?本篇文章會介紹面對AI的濫用或誤用行為,國際上有哪些標準可以依循。