輕薄型筆電OK!利用OpenVINO部署Phi-3.5「全家餐」
近期微軟發佈了最新的Phi-3.5系列SLM模型,是非常適合在AI PC上運作的模型任務。本文將分享如何利用OpenVINO在你的AI PC上部署最新Phi-3.5-mini及Phi-3.5-vision模型。
【產業觀察】大廠、新創競逐小型語言模型(SLM)技術市場
生成式AI運算量龐大,若用運算力小的系統來執行LLM/GenAI要很久才能回應,因此各界開始嘗試將模型縮小,在可接受的準確性犧牲下將模型減肥、輕量化,稱為小語言模型:SLM。