LLM如何「落地」?蒸餾、壓縮與微調技術比一比
蒸餾聚焦「智慧遷移」、壓縮專注「資源優化」、微調強調「專業提升」,合力推動語言模型在多樣應用環境的高效落地,本文將剖析它們在技術架構與應用場景中的定位與相互關聯。
催生AI應用創新菁英 陽明交大攜手矽漣、奇景舉辦開發競賽
國立陽明交通大學矽導中心攜手矽漣(Rabboni)、奇景光電(Himax)等產業夥伴,舉辦「AI應用創新菁英培育計畫競賽」,期望結合台灣本地的產學資源與最新AI感測平台,打造一個跨域創新與實戰應用的舞台。
Ceva與揚智為新世代視訊平台提供可擴展的Edge AI方案
隨著消費性及工業市場對智慧化、以視訊為核心的裝置需求加速增長,Ceva與揚智宣佈達成策略許可授權合作關係,將Ceva的NeuPro-Nano與NeuPro-M神經處理單元整合至揚智的下一代視訊顯示子系統平台。
開源推論模型邁入「直覺時代」:Cogito v2
Cogito v2的推出,是一次對推論邏輯與模型直覺的一大進展:從推論鏈的內化,到自我強化學習的落地,Cogito v2 為開源社群帶來了一種嶄新的 AI 發展路線,指向通用超級智能的未來。
晶心AutoOpTune採用基因演算法加速RISC-V軟體最佳化
RISC-V處理器核心供應商晶心科技推出Andes AutoOpTunev1.0。該智慧工具可透過微調編譯器選項,自動進行軟體物件的最佳化與編譯,量身打造以滿足多樣化的軟體開發需求。
華為開源CANN,能否打破NVIDIA CUDA的護城河?
華為旗下的昇騰(Ascend)AI處理器核心軟體平台CANN日前宣佈將全面開源,此舉被視為是針對NVIDIA的CUDA生態系統的宣戰,問題是,對AI產業的影響會有多大呢?