
OpenVINO 2023.2版本發佈:讓生成式AI在實際場景中更易用
OpenVINO發佈最新2023.2版本了!與之前的版本一樣,在提高性能、增加對新AI模型的支援,以及構建基礎設施和模型快取等不同元件方面都有重大改進,除了並導入在CPU和整合顯卡上運作權重量化為int8和int4精度的LLM的能力,也更新了模型轉換和最佳化工具;OpenVINO產品架構師Yury Gorbachev將在本文詳細介紹新版本的優勢。
OpenVINO發佈最新2023.2版本了!與之前的版本一樣,在提高性能、增加對新AI模型的支援,以及構建基礎設施和模型快取等不同元件方面都有重大改進,除了並導入在CPU和整合顯卡上運作權重量化為int8和int4精度的LLM的能力,也更新了模型轉換和最佳化工具;OpenVINO產品架構師Yury Gorbachev將在本文詳細介紹新版本的優勢。
同樣作為適合新手入門人工智慧領域的PyTorch與 TensorFlow,他們之間又有哪些差異呢?
FPGA技術陣容持續擴大,除了運算性能媲美一般高階處理器SoC的產品之外,也有功耗表現不遜於MCU的「小」型方案;無論是消費性電子、車用、工業等市場領域,FPGA都穩穩佔據一席之地。而在MCU/MPU之外,屬於可程式化元件的FPGA或許也是開發Edge AI時可以考慮的選擇。
在Silicon Labs的2023年度Work With開發者大會前夕,該公司亞太及日本地區業務副總裁王祿銘,特別分享了他對目前市場上Edge AI應用趨勢與需求現況觀察。
益登科技將於10月6日在台北舉辦NVIDIA Jetson Edge AI Solutions Day,除了邀請業者分享成功案例,並將以深入淺出方式說明由概念發想到模擬實作、以及如何運用Jetson平台實現創新的AI開發專案。活動中也將探討Jetson Edge AI解決方案的最新趨勢和應用…
隨著電腦視覺和自然語言處理領域的快速發展,視覺與語言的融合越來越受到研究人員的重視。在這個背景下,BLIP引起了廣泛關注--該模型在大規模的影像文字資料集上預訓練深度神經網路模型,以提高下游視覺語言任務的性能,如影像文字檢索、影像描述和視覺問答。本文作者將帶領讀者一步步了解如何在研揚科技(AAEON)的新產品UP Squared Pro 7000 Edg上,利用OpenVINO來最佳化BLIP的推論加速。
Designed by Elegant Themes | Powered by WordPress