課程內容
探索AI PC新時代,學習在邊緣裝置輕鬆運作LLM
0/2
【OpenVINO™ DevCon#4】探索AI PC新時代, 學習在邊緣裝置輕鬆運作LLM
關於單元

在第一部分介紹了 AI PC 的獨特功能與應用之後,第二部分由專家示範如何使用 OpenVINO 工具套件快速、準確地在 AI PC 和邊緣裝置上部署生成式 AI,並嘗試 OpenVINO 最新版本令人興奮的新發展,包括更廣泛的 LLM 模型和專家混合架構支援,以及 LLM 的新模型壓縮和記憶體最佳化技術; 聽眾將了解 LLM 如何能在本地端運作,實現更快、更智慧的推論。