用OpenVINO GenAI解鎖LLM極速推論：推測式解碼讓AI爆發潛能
借助簡化開發和最佳化硬體利用率的工具，OpenVINO使開發者能夠在各種即時和資源受限的場景中部署高性能的LLM；無論是構建回應迅速的聊天機器人或高效率虛擬助手，還是具備可擴展性的創意應用，OpenVINO正在重新定義AI推論的可能性。本文將探討如何利用OpenVINO GenAI的推測式解碼技術使這一變革性創新成為現實。
【創業小聚】把1週的工作量縮減到2天，艾鉑金科技的AI「財政簿長」怎麼解放會計師？
財政簿長AI Buuking是專門給會計師使用的AI SaaS工具，目前最主要的功能是AI記帳，透過AI OCR（光學字元辨識，Optical Character Recognition）技術辨識照片中的紙本發票以及收據，並且自動轉換為傳票格式。
Hailo在樹莓派上實證LLM技術的語音識別
樹莓派公司與Hailo合作，推出Raspberry Pi AI Kit、Raspberry Pi AI HAT+兩款加速模組，只要將加速模組加裝到樹莓派上，即可讓樹莓派電腦獲得AI加速效果。
DeepSeek真開放？假開放？MOF提供測度參考
Linux基金會轄下的LF AI & Data基金會在去（2024）年3月發佈AI模型開放框架（Model Openness Foundation, MOF），明確表達了AI模型的開放包含17個關鍵部件（critical components）。
【創業小聚】「寫完程式，然後呢？」Zeabur用一鍵部署，解決AI時代開發者的最後一哩路！
Zeabur創辦人兼執行長林沅霖（首圖右）為此開發了「一鍵式部署服務」，讓不熟悉完整開發流程的新時代開發者也能輕鬆自動部署程式，同時提升專業開發者的效率，至今每月服務超過1.6萬名活躍用戶。
輕鬆用Intel AI PC及OpenVINO建立數位分身
一個完整的數位分身，就像真人一樣，要具有自然語言對話、豐富肢體動作和產生生動表情的能力，其中就需要用到許多生成式AI技術，包括利用語音轉文字(STT)得到問題的文字，交給大語言模型(LLM)進行文字問答，再將文字轉語音(TTS)把答案讀出，最後再配合語音自動對嘴形(Lip Sync)讓人物影像的嘴巴也能和語音同步動起來。