Arduino Cloud Editor加入大語言模型幫手功能
使用LLM有多種用途,如回答一般問題、翻譯、寫程式、算數學等,而Arduino官方看準LLM的應用價值,開始在Arduino Cloud Editor雲端編輯器上加入人工智慧助手(AI Assistant)功能。
用OpenVINO GenAI解鎖LLM極速推論:推測式解碼讓AI爆發潛能
借助簡化開發和最佳化硬體利用率的工具,OpenVINO使開發者能夠在各種即時和資源受限的場景中部署高性能的LLM;無論是構建回應迅速的聊天機器人或高效率虛擬助手,還是具備可擴展性的創意應用,OpenVINO正在重新定義AI推論的可能性。本文將探討如何利用OpenVINO GenAI的推測式解碼技術使這一變革性創新成為現實。
Hailo在樹莓派上實證LLM技術的語音識別
樹莓派公司與Hailo合作,推出Raspberry Pi AI Kit、Raspberry Pi AI HAT+兩款加速模組,只要將加速模組加裝到樹莓派上,即可讓樹莓派電腦獲得AI加速效果。
擴充能力再強化 群聯升級邊緣AI訓練與推論解決方案
NAND控制晶片暨儲存方案供應商群聯(Phison)宣布,其邊緣AI訓練與推論解決方案aiDAPTIV+再度升級,提供更多擴充能力。
輕鬆用Intel AI PC及OpenVINO建立數位分身
一個完整的數位分身,就像真人一樣,要具有自然語言對話、豐富肢體動作和產生生動表情的能力,其中就需要用到許多生成式AI技術,包括利用語音轉文字(STT)得到問題的文字,交給大語言模型(LLM)進行文字問答,再將文字轉語音(TTS)把答案讀出,最後再配合語音自動對嘴形(Lip Sync)讓人物影像的嘴巴也能和語音同步動起來。
看到DeepSeek就愣住了? 還有上百萬個AI模型等著你!
中國開發的大型語言模型DeepSeek因其卓越的性能和低成本(約600萬美元)引起了投資者的關注,甚至震撼了美國金融市場。對此一家總部位於美國的AI策略顧問機構Liftr Insights指出,中國對AI的野心遠不只有DeepSeek…