|
如何選擇最適合你的AI推論模型量化方案?
12 月10

如何選擇最適合你的AI推論模型量化方案?

AI推論模型主要透過量化(Quantization)、修剪(Pruning)和聚類(Clustering)三種方式進行最佳化,本文提出一個決策樹,幫助你選擇最適合的量化技術。

Read More
【Edge AI專欄】 親愛的我把AI模型縮小了- 模型減量與壓縮技術簡介
8 月27

【Edge AI專欄】 親愛的我把AI模型縮小了- 模型減量與壓縮技術簡介

雖然我們難以像蟻人或黃蜂女一樣把自己縮小而保持生理機能不變,但把超巨大的AI模型縮小而保持推論精度不變,還是有很多方法可以達到的。接下來我們就來幫大家簡單介紹一下幾種常見技術。

Read More