|

TensorFlow Lite全面支援半精度(FP16)運算,可將設備端推論性能翻倍

在IT、電子的媒體圈打滾了15年後,有感於Bottom up的Maker運動將成為改變台灣的一股力量,於是從CTIMES總編輯之位退下,創辦MakerPRO社群媒體平台,以PRO Maker為社群核心,致力建構Maker to Market的運作體系。

(媒體專訪:社企流專訪(文章)RAPAQ 專訪(影片)
owenou

TensorFlow團隊工程師日前(11/29)在官方Blo

Read More

活用IPEX和Intel GPU加速大型語言模型訓練效率

以IPEX (Intel-Extension-for-PyTorch)搭配Intel硬體產品,可提供最佳化功能大幅提升運作效能。例如透過PyTorch的裝置來發揮Intel GPU的潛能,加速AI模型的訓練和推論。本篇文章將說明如何善用上述兩項產品來實現效能的大幅提升,仍然以微調訓練的範例來展現它們的特性,並說明其使用方法和流程。

Read More
No more posts to show