「人類參與循環」（Human-In-The-Loop，HITL）是一種結合人工智能 (AI) 和人類專業知識的系統設計方法。隨著AI技術的快速發展，也讓HITL愈來愈受到重視，因為它允許人類在機器學習模型的訓練和調整過程中介入，可以糾正模型的錯誤判斷，特別是在面對複雜或模糊的情況時，例如LLM因訓練資料造成的社會偏見（白人、男人、西方角度等等），以及道德和法律的合規性等，都能透過人類的標註和反饋，幫助模型修正學習更正確的特徵。
因人類的參與，還可以根據實際情況對模型進行即時調整，使模型能夠適應快速變化的環境和需求，例如駕駛人提供自駕車系統路況的即時反饋。另一個AI應用場景是在醫療影像分析中，例如 X 光片或 MRI 檢查，AI 系統可用於自動檢測病變或異常。然而，這些檢測結果通常需要放射科醫生的評估和確認。HITL 使醫生能夠檢查 AI 的診斷，並對需要進一步檢查或治療的患者提供建議。這不僅提高了診斷的準確性，也減少了錯誤診斷的風險。
HITL建置流程
事實上，LLM的發展也從普遍性走向分眾化、專業化，因不同的產業、應用或個別企業而量身定製，這過程必然而要技術與領域專家的參與，特別是在前期的數據篩選、清理和標註方面發揮關鍵作用，以保證模型訓練的質量。以下是HITL必要的建置流程：
HITL的持續改善流程（Source）
1. 需求分析
確定業務目標與需求，明確在哪些方面需要人類的介入，以及如何利用人類專業知識來提高系統的性能。
2. 數據收集
收集相關的數據集，這些數據將用於訓練模型和驗證其效能。這包括從各種來源獲取標註過的數據。
3. 模型訓練
基於收集的數據訓練初步的 AI 模型。這一過程通常涉及選擇適合的算法和調整模型參數，以達到最佳性能。
4. 人類介入設計
設計人類介入的流程，確定何時何地需要人類的參與。例如，決定在模型輸出不確定性高時或面對複雜情境時進行人類檢查。
5. 反饋循環
建立人類與 AI 系統之間的反饋循環。人類專家根據模型的輸出提供意見或修正，並將這些反饋納入模型的訓練過程中。
6. 持續改進
通過定期評估和更新模型來確保其隨著時間的推移保持高效能。人類的持續參與可促進模型的持續學習與改進。
（Source）
小結
「人類參與循環」（HITL）的另一個面向，具有更大的意義，那就是將AI拉回「人」的主體性，讓專業人士在AI應用發展的關鍵環節中，持續監督AI模型與資訊系統，確保它們對人類社會來說都是安全、可靠和無偏見的。而從職場的角度看，HITL確認訓練有素的人是不可或缺的，其工作也是AI奪不走的。
- 想加速RAG開發？你需認識LLamaIndex框架 - 2024/11/21
- AI+無人機守護海域遊憩安全 台南市發表「智慧海灘」成果 - 2024/11/14
- 【多模態時代】LLaVA模型的重要性 - 2024/11/11
.jpg)
.jpg)