|

OpenVINO 2023.2版本發佈:讓生成式AI在實際場景中更易用

OpenVINO發佈最新2023.2版本了!與之前的版本一樣,在提高性能、增加對新AI模型的支援,以及構建基礎設施和模型快取等不同元件方面都有重大改進,除了並導入在CPU和整合顯卡上運作權重量化為int8和int4精度的LLM的能力,也更新了模型轉換和最佳化工具;OpenVINO產品架構師Yury Gorbachev將在本文詳細介紹新版本的優勢。

Read More

不只MCU/MPU 實現Edge AI應用FPGA也很行!

FPGA技術陣容持續擴大,除了運算性能媲美一般高階處理器SoC的產品之外,也有功耗表現不遜於MCU的「小」型方案;無論是消費性電子、車用、工業等市場領域,FPGA都穩穩佔據一席之地。而在MCU/MPU之外,屬於可程式化元件的FPGA或許也是開發Edge AI時可以考慮的選擇。

Read More

與業界專家共同探索Jetson平台Edge AI應用潛力

益登科技將於10月6日在台北舉辦NVIDIA Jetson Edge AI Solutions Day,除了邀請業者分享成功案例,並將以深入淺出方式說明由概念發想到模擬實作、以及如何運用Jetson平台實現創新的AI開發專案。活動中也將探討Jetson Edge AI解決方案的最新趨勢和應用…

Read More

利用OpenVINO以BLIP實現視覺語言邊緣AI部署

隨著電腦視覺和自然語言處理領域的快速發展,視覺與語言的融合越來越受到研究人員的重視。在這個背景下,BLIP引起了廣泛關注--該模型在大規模的影像文字資料集上預訓練深度神經網路模型,以提高下游視覺語言任務的性能,如影像文字檢索、影像描述和視覺問答。本文作者將帶領讀者一步步了解如何在研揚科技(AAEON)的新產品UP Squared Pro 7000 Edg上,利用OpenVINO來最佳化BLIP的推論加速。

Read More
No more posts to show