避免AI模型學壞?台大團隊研發「概念抹除」技術受國際矚目
為避免生成式AI帶來侵權、濫用與倫理等挑戰,在國科會補助支持下,台大電機系教授王鈺強團隊針對生成式AI模型推出「概念抹除」技術,可在不重新訓練整個生成式模型的前提下,精準切斷模型對特定高風險概念的聯想與表現能力(如血腥暴力、深偽換臉、特定藝術家或品牌風格)。
為避免生成式AI帶來侵權、濫用與倫理等挑戰,在國科會補助支持下,台大電機系教授王鈺強團隊針對生成式AI模型推出「概念抹除」技術,可在不重新訓練整個生成式模型的前提下,精準切斷模型對特定高風險概念的聯想與表現能力(如血腥暴力、深偽換臉、特定藝術家或品牌風格)。