|

英特爾新推解決方案加速客製化AI助理開發

   

英特爾(Intel)於2023年12月推出全新世代的PC,搭載Intel Core Ultra處理器系列,結合CPU、GPU和NPU的強大功能,全面提升使用者生產力、創造力、遊戲與娛樂體驗以及安全性各方面表現。除了提供現代人工智慧(AI)工作負載所需效能的強大硬體,對PC產業而言,AI PC最大的機會在於開發能充分發揮先進硬體潛力的全新AI軟體和使用者體驗。如何快速且高效率地打造能協助日常任務的全新AI助理,是AI PC實現最佳AI體驗的下一波關鍵突破。

此外英特爾今年在CES上發布了Intel AI Assistant Builder(代號Project SuperBuilder)解決方案,無需繁瑣設定,甚至只需要花費幾分鐘的時間,就能協助電腦製造商和軟體供應商針對各式應用場景打造客製化AI助理,並省去模型開發的複雜工作。AI Assistant Builder將任務分解成三個簡單步驟:選擇現成的AI助理模型、下載並安裝、啟動程式。

英特爾客戶端運算事業群資深首席工程師Olena Zhu表示:「我們為業界提供建置模塊(building blocks),創造屬於客戶,以AI為中心的內容。這將減少整體開發時間,並加速推出客戶專屬的智慧解決方案。」

Intel AI Assistant Builder運作方式:

  • 應用程式內建聊天視窗,使用者可以直接提問,並上傳多種格式的文件,例如PDF、試算表、簡報和文字檔。
  • 當使用者提問時,AI助理將根據詢問內容進行回應,並從對話歷史、相關文件及大型語言模型(LLM)既存的知識中學習。
  • 軟體內建先進AI安全防護機制,包括不當語言過濾以及二級安全系統,確保模型的回應安全且無偏見。
  • 透過持續增加多項豐富功能,讓使用者能自由選擇各種先進功能,打造專屬AI助理。

許多合作夥伴已運用AI Assistant Builder打造客製化模型,以滿足特定需求(以下廠商依英文字母排序):

  • 宏碁僅用三天便打造出結合其相機視覺技術的AI銷售助理概念性驗證(POC)。
  • 華碩運用英特爾技術為其NUC客戶開發專門回應技術性問題的AI助理。
  • 英特爾與三星電子合作,在韓國連鎖書店教保文庫(Kyobo Bookstore)推出生成式AI聊天機器人。該技術可直接在裝置上運作,無需依賴雲端,並基於智慧LLM,協助顧客搜尋書籍並提供客製化資訊。

從零開始打造完善的AI助理曠日廢時,需要花費數週甚至數月的時間,同時開發者也需要深厚的軟體開發和AI專業知識。在AI Assistant Builder推出不久後,即獲得全球PC OEM廠商和獨立軟體供應商的積極採用。

Olena Zhu解釋:「這些AI助理基於大型語言模型、檢索增強生成(RAG)及其他相關技術,針對英特爾CPU、GPU和NPU進行最佳化,以確保在AI PC上執行時的效能與準確性。除了針對各個垂直產業最佳化LLM之外,由於每個垂直領域或產業都有各自一套工作流程和功能需求,英特爾也與客戶合作,客製化工作流程和AI功能,滿足每位客戶的需求。」

英特爾指出,AI Assistant Builder可以在任何符合特定硬體要求,且由英特爾驅動的AI PC上執行,其最低要求為搭載Intel Core Ultra處理器(Series 1)、16 GB RAM且整合Intel®繪圖晶片。去年九月,英特爾推出Intel Core Ultra處理器(Series 2),相比前一代產品,其AI效能提升了3倍,功耗降低最多達50%。

Olena Zhu補充:「AI Assistant Builder的另一項主要優勢是可以完全於本機上執行,不需要透過雲端連線處理查詢,只在一開始下載工具套件時需要網路連線。在PC本機執行AI助理還有另一額外好處,即為可有效降低安全疑慮。在使用者的AI PC本機上執行AI助理,而非依賴雲端服務,能讓使用者更安心,並完全掌控個人資料的安全性。」

預見市場對於快速簡易AI開發工具的需求,以及此趨勢將會加速AI PC於日常生活的應用,英特爾從2024年2月就開始構思AI Assistant Builder的初始架構。經過五個月成功開發出可供客戶測試的原型設計,為核心客戶提供軟體以及工程諮詢和技術資源。

宏碁透過AI Assistant Builder在3天內打造出相機輔助線上銷售助理的概念性驗證。該助理運用宏碁的相機視覺技術,能夠在視訊會議期間辨識物體,並提供視訊畫面中產品的相關資訊,它也能透過英特爾AI Assistant Builder提供的RAG機制學習產品功能。宏碁的客戶可以在搭載Intel Core Ultra處理器的AI PC上使用該解決方案,如宏碁全新AI PC – Acer Swift 14 AI,其搭載 Intel Core Ultra處理器(Series 2),擁有長達29小時的全天候電池續航力。

MakerPRO編輯部
MakerPRO編輯部

Author: MakerPRO編輯部

MakerPRO.cc為華人圈最專注於Maker創新創業、物聯網及共享經濟報導及共筆發表的專業媒體,不論是趨勢分析與評論,或創新實作文章,在華文創新創業媒體領域都具有重要的影響力。

Share This Post On

Submit a Comment

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *