輕薄型筆電OK!利用OpenVINO部署Phi-3.5「全家餐」
近期微軟發佈了最新的Phi-3.5系列SLM模型,是非常適合在AI PC上運作的模型任務。本文將分享如何利用OpenVINO在你的AI PC上部署最新Phi-3.5-mini及Phi-3.5-vision模型。
LLM性能再強化 OpenVINO 2024.3隆重發佈!
OpenVINO 2024.3版本現在已經正式推出!這次更新帶來了新的功能,並對現有功能進行了強化,特別是大型語言模型(LLM)的性能;本文將介紹此新版本的關鍵進展。
【創業小聚】OpenAI參與的「複製太陽計畫」,背後的核融合公司Helion Energy什麼來頭?
其中一家位於美國西雅圖的核融合新創Helion Energy,以其獨特的「磁慣性融合」技術吸引微軟、OpenAI等科技巨頭的投資和合作,更計畫挑戰2028年商轉供電,成為全球能源領域的明日之星。Helion Energy的核融合技術是什麼?為何在生成式AI爆發的現在扮演關鍵角色?
【創業小聚】兩年半開發2個AI模型,獲NVIDIA千萬美元的Twelve Labs強在哪?
今(2024)年NVIDIA參與了韓國新創Twelve Labs的A輪募資,投資約5,000萬美元(約新台幣16億元),這筆資金大大的幫助Twelve Labs進行後續的AI開發。本篇文章會介紹NVIDIA資金挹注的Twelve Labs是何方神聖。
台灣自有繁中混合專家模型Project TAME正式開源
台灣自主研發的繁體中文大型語言混合專家模型 Project TAME (TAiwan Mixture of Experts) 於7月1日正式亮相並以開源形式提供下載。
LangChain框架已正式支援OpenVINO!
透過LangChain,開發者可以輕鬆構建基於RAG或者Agent流水線的複雜應用體系,而目前我們已經可以在LangChain 的關鍵元件LLM、Text Embedding和Reranker中直接呼叫OpenVINO進行模型部署!