|
OpenVINO 2024.0:為開發者提供更高性能、更強大支援  
3 月19

OpenVINO 2024.0:為開發者提供更高性能、更強大支援  

OpenVINO 2024.0來了!我們很高興在這個版本推出一系列強化功能,目標是在快速發展的AI領域賦予開發者更強大的能力;新版本透過動態量化、改善的GPU最佳化以及對混合專家(MoE)模型架構的支援,增強了大語言模型(LLM)的性能。OpenVINO 2024.0讓開發者能有效利用AI加速,這也要感謝來自社群的持續貢獻。

Read More
用OpenVINO與NNCF最佳化Whisper語音辨識模型
3 月13

用OpenVINO與NNCF最佳化Whisper語音辨識模型

本文示範如何以OpenVINO與Optimum Intel載入並執行Whisper與Distil-Whisper模型進行音訊轉錄任務,以及如何使用NNCF對這些模型執行INT8訓練後量化;接著在橫跨多種CPU的裝置上以大規模語音轉文字資料集評估這些模型。

Read More
如何在Google Colab上運行OpenVINO Open Model Zoo範例
3 月07

如何在Google Colab上運行OpenVINO Open Model Zoo範例

本篇文章會以OMZ 影像分類(Classification) Public Pre-Trained Models為例,說明如何在Colab 上直接運行Intel Open Model Zoo。

Read More
【Edge AI案例探討】利用AI物件辨識協助生產線瑕疵檢測
3 月07

【Edge AI案例探討】利用AI物件辨識協助生產線瑕疵檢測

當製造業面對缺工狀況,如何善用科技來因應人力缺口?AI技術有機會成為解答,本文將介紹一個運用AI技術開發生產線品管的解決方案。

Read More
如何在Windows平台呼叫NPU部署深度學習模型
3 月04

如何在Windows平台呼叫NPU部署深度學習模型

在最新一代的Intel Core Ultra行動終端處理器中已經整合了簡稱為NPU的神經網路加速處理器,以提供低功耗的AI算力,而OpenVINO工具套件也在第一時間對NPU進行了配接。本文將帶領讀者一起看看如何在Intel Core Ultra處理器上搭建基礎環境,並呼叫NPU進行模型推論任務。

Read More
如何避免手術器材殘留在患者體內?創客自製手術清單物件偵測器!
2 月22

如何避免手術器材殘留在患者體內?創客自製手術清單物件偵測器!

手術後忘在患者體內的手術器械、沾血海綿或其他物體都稱作「術後體內殘留物」,儘管醫院都有嚴謹規範與檢核步驟,還是時有所聞。本文介紹一位開發者打造的可攜型AI辨識裝置,可以評估手術結束時是否器具都已經收齊。

Read More