【OpenVINO™ DevCon#4】探索AI PC新時代,學習在邊緣裝置輕鬆運作LLM
![](https://makerpro.cc/makerlearn/wp-content/uploads/2024/05/1720667598660.jpg)
關於此課程
憑藉結合CPU、GPU與NPU帶來的獨特AI加速功能,AI PC將為開發者的AI專案帶來更高效率與創新潛力。在這場講座中,英特爾專家將帶領聽眾了解什麼是AI PC,以及如何使用OpenVINO在AI PC展現AI應用程式的效能。您將學習到:
–探索涵蓋傳統AI與生成式AI的一系列範例在 AI PC 上的實際應用。
–了解NPU如何增強AI應用效能,特別是對於傳統上由AI 加速器分擔的任務。
–學習使用OpenVINO在NPU上最佳化和部署 AI 應用的技巧。
–使用 OpenVINO 將 AI 應用程式無縫轉移到 NPU。
–了解開發人員如何在AI PC上試驗並利用OpenVINO強化AI 專案。
接著我們將示範如何使用OpenVINO工具套件快速、準確地在 AI PC和邊緣裝置上部署生成式AI,帶您嘗試最新 OpenVINO 版本令人興奮的新發展,包括更廣泛的 LLM 模型和專家混合架構支援,以及LLM 的新模型壓縮和記憶體最佳化技術; 英特爾專家將示範如何在讓LLM在本地端運作,實現更快、更智慧的推論。
課程內容
探索AI PC新時代,學習在邊緣裝置輕鬆運作LLM
-
探索 AI PC 新時代
31:48 -
學習在邊緣裝置輕鬆運作 LLM
40:40
學生評分和評論
No Review Yet