擴充能力再強化　群聯升級邊緣AI訓練與推論解決方案

Posted By MakerPRO編輯部 on 4 月 16, 2025 in Edge AI解決方案, 新聞稿, 產品新訊 | 0 comments

NAND控制晶片暨儲存方案供應商群聯(Phison)宣布，其邊緣AI訓練與推論解決方案aiDAPTIV+再度升級，提供更多擴充能力。aiDAPTIV+將整合至Maingear的ML系列筆電，這款AI筆電將成為全球首款支援LLMOps(大型語言模型作業)的消費級筆電，使用者將可使用自身企業或個人資料來微調(Post-training/Fine-tuning)最多80億(8B)參數的大型語言模型 (LLM)，讓預訓練的AI模型能依據邊緣應用場景與使用者需求進行客製化，以達到真正的AI落地普及化。

群聯表示，aiDAPTIV+此次升級還包括全新的aiDAPTIVLink 3.0中介軟體，可提供更快的首次回應時間(TTFT)，並延長Token長度，以提升推論效能與準確性。此擴展將進一步開啟更多應用機會，無論是大學生或AI產業專業人士學習LLM訓練，或是研究人員透過PC深入解析自身資料，甚至是製造工程師透過邊緣運算設備自動化工廠生產流程，皆能受益於此次的功能升級。

AI與邊緣運算應用場景日益增多，市場對AI開發人才的需求持續攀升。開發者需要親身操作LLM訓練解決方案，以建立未來AI應用所需要的軟體或是專屬邊緣模型，而政府、研究機構、醫療與工業組織等高度受監管之產業，則需要邊緣、安全的地端AI設備來進行私有資料的AI模型微調訓練。再加上市場對LLM推論速度與準確度的要求不斷提升，企業更希望在可預測的成本下，獲得最佳解決方案。aiDAPTIV+以經濟實惠的GPU記憶體擴充能力，讓使用者可在邊緣封閉式安全網路內微調訓練LLM，並透過直覺化軟體介面與AI模型互動，獲取所需的AI生成關鍵資訊。

此外群聯也將aiDAPTIV+擴展至支援NVIDIA Jetson 平台的邊緣運算設備，強化在邊緣端的生成式AI推論與機器人應用。aiDAPTIV+現已支援邊緣運算與機器人應用，並通過群聯驗證，可在NVIDIA Jetson平台設備上運作。aiDAPTIV+透過aiDAPTIVCache SSD強化推論能力，並支援LoRA架構LLM訓練，將於2025年4月上市。此升級可應用於自動駕駛、醫療診斷、工業自動化、零售分析、環境監測、電信、智慧監控及智慧農業等領域。