OpenVINO專欄 | MakerPRO

3 月04

如何在Windows平台呼叫NPU部署深度學習模型

Posted By 楊亦誠 on 3 月 4, 2024 in AI PC, Edge AI, Edge AI教學文, Edge AI開發地圖, Edge AI開發環境, Intel, OpenVINO, OpenVINO專欄, OpenVINO教學文, 教學文

在最新一代的Intel Core Ultra行動終端處理器中已經整合了簡稱為NPU的神經網路加速處理器，以提供低功耗的AI算力，而OpenVINO工具套件也在第一時間對NPU進行了配接。本文將帶領讀者一起看看如何在Intel Core Ultra處理器上搭建基礎環境，並呼叫NPU進行模型推論任務。

2 月16

新年首發　OpenVINO 2023.3 LTS版本隆重登場！

Posted By OpenVINO作者群 on 2 月 16, 2024 in AIGC, Edge AI, Edge AI開發地圖, Edge AI開發環境, Intel, LLM, OpenVINO, OpenVINO專欄, OpenVINO產業趨勢, RAG, 技術新訊

是時候在生成式人工智慧(AI)領域大放異彩地開啟2024年了，最新的OpenVINO推論工具2023.3 LTS版本隆重登場，導入了額外的框架改變，最佳化了生成式AI模型的特性，並強化了對現有平台的支援，將使您在新的一年中的程式編寫之旅變得異常精彩！本文將帶您了解新版本OpenVINO的一些重要更新。

2 月08

【活動報導】OpenVINO讓生成式AI隨手可及

Posted By MakerPRO編輯部 on 2 月 8, 2024 in Edge AI, Edge AI應用案例, Edge AI解決方案, OpenVINO專欄, OpenVINO活動報導, 活動報導

2024年伊始，OpenVINO的最新版本2023.3 LTS正式發表，更進一步降低了生成式AI技術的門檻，為了讓廣大開發者對最新版OpenVINO的強化功能有更深入的了解，Intel與MakerPRO在2024年1月底共同舉辦了第三場OpenVINO DevCon線上講座…

2 月06

用OpenVINO和LangChain打造你專屬的RAG問答系統

Posted By 楊亦誠 on 2 月 6, 2024 in AI關鍵技術, Edge AI教學文, Edge AI解決方案, Intel, LLM, OpenVINO, OpenVINO專欄, OpenVINO教學文, RAG, 教學文

隨著生成式AI的興起，和大語言模型對話聊天的應用變得非常熱門，但這類應用往往只能簡單地和你「聊聊家常」，並不能針對某些特定產業提供非常專業和精準的答案。那有沒有辦法讓你的模型學習到新的知識呢？當然有!在沒有足夠GPU運算資源對模型進行重新訓練的情況下，RAG方式對普通使用者來說更友善。本文就要來探討如何利用OpenVINO以及LangChain工具構建屬於你的RAG問答系統。