|
LLM性能再強化　OpenVINO 2024.3隆重發佈！
8 月21

LLM性能再強化　OpenVINO 2024.3隆重發佈！

Posted By on 8 月 21, 2024 in AI PC, AIGC, Edge AI, Edge AI解決方案, Edge AI開發地圖, Edge AI開發環境, Intel, OpenVINO, OpenVINO專欄, OpenVINO教學文, 技術新訊, 教學文

OpenVINO 2024.3版本現在已經正式推出！這次更新帶來了新的功能，並對現有功能進行了強化，特別是大型語言模型(LLM)的性能；本文將介紹此新版本的關鍵進展。

Read More
OpenVINO全新GenAI API：幾行程式碼就能快速建立GenAI App！
8 月14

OpenVINO全新GenAI API：幾行程式碼就能快速建立GenAI App！

Posted By on 8 月 14, 2024 in AI PC, Edge AI, Edge AI解決方案, Edge AI開發地圖, Intel, LLM, OpenVINO, OpenVINO專欄, OpenVINO教學文, 教學文

全新的OpenVINO GenAI API為開發者提供了更簡單與清晰的程式碼；這意味著除了提供電腦視覺、AI加速與最佳化程式庫，OpenVINO現在也是開發者實現GenAI應用的助力。

Read More
以LLaVA-NeXT和NNCF先進量化技術掌握多模態AI
6 月18

以LLaVA-NeXT和NNCF先進量化技術掌握多模態AI

Posted By on 6 月 18, 2024 in Edge AI, Edge AI開發地圖, Edge AI開發環境, Intel, LLM, OpenVINO, OpenVINO專欄, OpenVINO教學文, 教學文, 量化技術

在這篇文章中，我們將探索LLaVA-NeXT多模態聊天機器人Notebook，學習如何轉換和最佳化LLaVA-NeXT模型來打造多模態聊天機器人。此外，我們將探討如何在LLM部分應用有狀態轉換(stateful transformation)和使用NNCF進行權重壓縮和量化等模型最佳化技術。

Read More
釋放多模態AI的力量：利用Pix2Struct和Optimum Intel
6 月17

釋放多模態AI的力量：利用Pix2Struct和Optimum Intel

Posted By on 6 月 17, 2024 in Edge AI, Edge AI教學文, Edge AI開發地圖, LLM, OpenVINO, OpenVINO專欄, OpenVINO教學文, 教學文

多模態可以同時處理視覺、聽覺和文字資料，以驚人的深度和精確度解釋其環境；在這篇文章中，我們將深入探討多模態AI的能力，並探索Intel的OpenVINO工具套件如何最佳化這些複雜系統，以因應現實世界的應用。

Read More
輕鬆使用OpenVINO在本地裝置離線運作Llama3
5 月06

輕鬆使用OpenVINO在本地裝置離線運作Llama3

Posted By on 5 月 6, 2024 in AIGC, Edge AI, Edge AI解決方案, Edge AI開發地圖, Llama 2, OpenVINO, OpenVINO專欄, OpenVINO教學文, 教學文, 開發工具

利用OpenVINO部署Llama3到本地運算資源，例如AI PC，不僅意味著更快的回應速度和更低的運作成本，還能有效地保護資料安全，防止敏感資訊外洩。這對於需要處理高度敏感性資料的應用場景尤其重要，如醫療、金融和個人助理等領域。本文將介紹如何使用OpenVINO對Llama3模型進行最佳化和推論加速，並將其部署在本地裝置上，進行更快、更智慧的AI推論。

Read More
用OpenVINO C# API部署YOLOv9目標檢測和實例分割模型
4 月19

用OpenVINO C# API部署YOLOv9目標檢測和實例分割模型

Posted By on 4 月 19, 2024 in Edge AI應用案例, Edge AI開發地圖, Intel, LLM, OpenVINO專欄, OpenVINO教學文, 影像分割, 教學文

YOLOv9模型是YOLO系列即時目標檢測演算法中的最新版本，代表著該系列在準確性、速度和效率方面的又一次重大飛躍。在本文中，我們將結合OpenVINO C# API使用最新發佈的OpenVINO 2024.0部署YOLOv9目標檢測和實例分割模型。

Read More