|

【AI下一步】Human-In-The-Loop(人類參與循環)的重要性

   

「人類參與循環」(Human-In-The-Loop,HITL)是一種結合人工智能 (AI) 和人類專業知識的系統設計方法。隨著AI技術的快速發展,也讓HITL愈來愈受到重視,因為它允許人類在機器學習模型的訓練和調整過程中介入,可以糾正模型的錯誤判斷,特別是在面對複雜或模糊的情況時,例如LLM因訓練資料造成的社會偏見(白人、男人、西方角度等等),以及道德和法律的合規性等,都能透過人類的標註和反饋,幫助模型修正學習更正確的特徵。

因人類的參與,還可以根據實際情況對模型進行即時調整,使模型能夠適應快速變化的環境和需求,例如駕駛人提供自駕車系統路況的即時反饋。另一個AI應用場景是在醫療影像分析中,例如 X 光片或 MRI 檢查,AI 系統可用於自動檢測病變或異常。然而,這些檢測結果通常需要放射科醫生的評估和確認。HITL 使醫生能夠檢查 AI 的診斷,並對需要進一步檢查或治療的患者提供建議。這不僅提高了診斷的準確性,也減少了錯誤診斷的風險。

HITL建置流程

事實上,LLM的發展也從普遍性走向分眾化、專業化,因不同的產業、應用或個別企業而量身定製,這過程必然而要技術與領域專家的參與,特別是在前期的數據篩選、清理和標註方面發揮關鍵作用,以保證模型訓練的質量。以下是HITL必要的建置流程:

HITL的持續改善流程(Source

1. 需求分析

確定業務目標與需求,明確在哪些方面需要人類的介入,以及如何利用人類專業知識來提高系統的性能。

2. 數據收集

收集相關的數據集,這些數據將用於訓練模型和驗證其效能。這包括從各種來源獲取標註過的數據。

3. 模型訓練

基於收集的數據訓練初步的 AI 模型。這一過程通常涉及選擇適合的算法和調整模型參數,以達到最佳性能。

4. 人類介入設計

設計人類介入的流程,確定何時何地需要人類的參與。例如,決定在模型輸出不確定性高時或面對複雜情境時進行人類檢查。

5. 反饋循環

建立人類與 AI 系統之間的反饋循環。人類專家根據模型的輸出提供意見或修正,並將這些反饋納入模型的訓練過程中。

6. 持續改進

通過定期評估和更新模型來確保其隨著時間的推移保持高效能。人類的持續參與可促進模型的持續學習與改進。

Source

小結

「人類參與循環」(HITL)的另一個面向,具有更大的意義,那就是將AI拉回「人」的主體性,讓專業人士在AI應用發展的關鍵環節中,持續監督AI模型與資訊系統,確保它們對人類社會來說都是安全、可靠和無偏見的。而從職場的角度看,HITL確認訓練有素的人是不可或缺的,其工作也是AI奪不走的。

 

 

MakerPRO編輯部
MakerPRO編輯部

Author: MakerPRO編輯部

MakerPRO.cc為華人圈最專注於Maker創新創業、物聯網及共享經濟報導及共筆發表的專業媒體,不論是趨勢分析與評論,或創新實作文章,在華文創新創業媒體領域都具有重要的影響力。

Share This Post On

Submit a Comment

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *