「我們正處於將生命裁判權讓渡給代碼的邊緣。核武器的毀滅是集體的，而AI自主武器的抹殺是精準、冰冷且悄無聲息的。」
—— 聯合國秘書長 安東尼奧·古特瑞斯（António Guterres）
隨著AI技術以幾何級數的速度跨越軍事門檻，俗稱「殺手機器人」的致命自主武器系統（Lethal Autonomous Weapons Systems；LAWS）已不再是科幻小說的專利。聯合國秘書長古特瑞斯與紅十字國際委員會（ICRC）已多次發出嚴厲警告，呼籲國際社會必須在2026年期限前，達成一項具有法律約束力的國際條約，全面禁止或嚴格監管不具備「人類實質控制」的自主武器。然而，在技術狂飆與地緣政治博弈的夾擊下，這項歷史性的軍控談判正面臨前所未有的制度性癱瘓。
地緣政治的「囚徒困境」：誰先停手，誰就輸？
要讓全球對AI自主武器達成禁令，最大的絆腳石從來不是技術，而是國際政治的猜忌。在現行的《特定常規武器公約》（Convention on Certain Conventional Weapons；CCW）框架下，各國對於如何定義「人類控制」存在著巨大的鴻溝。
根據聯合國政府專家組（GGE）的會議紀錄，以奧地利為首的30多個非核武與中小型國家，強烈主張建立一套具有法律約束力的全球框架，全面禁止針對人類進行辨識與獵殺的自主武力。
然而，掌握核心技術的軍事強國卻抱持截然不同的態度。美國、俄羅斯與印度等國，更傾向於採用「國家層級的指導方針」或依循現現有的國際人道法進行彈性解釋。美國國防部在其更新的軍事指令中，拒絕使用「人類控制（Human Control）」這種固定的絕對字眼，而是主張使用「善意的人類判斷與謹慎（Good faith human judgement and care）」。這種修辭上的妥協，反映出大國深恐過度僵硬的法律條約，會削弱自身在常規戰場上的反應速度與戰略優勢。
這是一場典型的地緣政治「囚徒困境」：當所有人都知道放任AI武器擴散將帶來災難，卻沒有任何一個大國敢放慢研發腳步，因為「誰先停手，誰就在下一場毫秒級的演算法戰爭中面臨全殲」。
梵蒂岡的道德暮鼓：沒有演算法能讓戰爭道德化
在這場冰冷的政治博弈中，宗教領袖的道德呼籲為人類社會敲響了警鐘。教宗良十四世（Pope Leo XIV）在關於AI的首部通諭《Magnifica Humanitas》中提出嚴正警告，明確指出若將具有致命性的殺戮決定交由AI作主，在道德上是絕對不受容許的。
教宗強調：「沒有任何演算法能讓戰爭變成在道德上是可以接受的。（No algorithm can make war morally acceptable）」。他直言不諱地指出，AI與致命武器的結合正在急速降低訴諸暴力的門檻。這種高度自動化的科技將攻擊變得更為簡便，卻也讓攻擊者在螢幕背後看不見受害者的真實面容。衝突在此刻被徹底「抽象化」，人類被轉化為一行行冰冷的數字，導致了嚴重的「去人性化」危機。
更進一步地，教宗指出過去常作為戰爭辯護理由的「正義之戰（Just war）」理論如今已顯過時。在演算法主導的時代，人類不能再利用AI作為擺脫軍事競爭與互相毀滅邏輯的藉口，而是必須振興對話與多邊主義，重回外交談判桌。
從核武反省看AI的「奧本海默時刻」
面對AI武器的失控危機，科學界與政策制定者常將其與二十世紀的「核武發展」進行對比。當年人類意識到核戰爭沒有贏家，透過「相互保證毀滅（MAD）」的恐怖平衡與《不擴散核武器條約》（NPT），成功建立起「核武不可逾越」的道德禁忌。然而，這套歷史經驗在AI時代正面臨徹底失效的挑戰。
為了讓讀者更清晰地理解兩者的本質差異，以下透過物理門檻、擴散速度與決策機制等關鍵指標，深度剖析兩代顛覆性武器的異同：
| 比較維度 | 核武器（Nuclear Weapons） | AI 自主武器（LAWS） |
|---|---|---|
| 物質門檻 | 極高。 需要稀缺的放射性原料與龐大的工業離心機技術。 | 極低。 核心在於演算法硬體只需商業晶片與消費級無人機。 |
| 擴散與監控 | 易於追蹤。 核設施無法隱藏，國際原子能總署可實地考察監督。 | 極難防範。 程式碼可透過網路瞬間複製，開源社群改裝極易流出。 |
| 毀滅邏輯 | 集體毀滅。 強調一擊摧毀城市，本質上是用於政治「嚇阻」。 | 精準獵殺。 透過臉部辨識自主清洗特定個體，傾向實戰使用。 |
| 決策速度 | 分鐘級。 國家元首至核授權機制，至少有10至30分鐘的理性評估期。 | 毫秒級。 演算法在百萬分之一秒內完成決策，人類無法干預。 |
AI自主武器管控面臨的三大核心技術挑戰
與過去限制核子原料或化學武器不同，AI的物理特性與數位本質，讓傳統的軍控手段幾乎完全失效。目前全球在技術管控上面臨以下三大難題：
1.定義與黑盒子難題（Explainability）：
傳統軍控需要明確的檢查對象（如核設施或飛彈發射井）。然而，AI武器的關鍵在於「代碼與演算法」。當民用無人機寫入幾行深度學習程式碼，就能瞬間轉化為具備目標辨識能力的自主殺手時，國際社會根本無法給予「自主武器」一個被共同接受的法律定義。此外，深度學習的「黑盒子」特性，讓軍隊連自己都無法預測AI在複雜戰場上會做出何種偏見判斷，更遑論進行事後追責。
2.擴散防禦的完全失效（Proliferation）：
核武需要極高純度的鈾或鈽，以及龐大的工業離心機，極易被衛星與國際原子能總署（IAEA）監控。相反地，AI演算法可以透過隨身碟或網路在全球瞬間複製與傳播。一旦開源模型被恐怖組織或非國家行為人掌握，將其與市售的商業無人機結合，傳統的邊境與關稅禁運手段將形同虛設，全球將迎來「廉價精準暗殺」的平民化時代。
3.數據偏見（Digital Bias）與戰場不可預測性（Unpredictability）：
AI系統的精準度高度依賴訓練數據。在戰火蔓延、充滿雜訊與電子干擾的真實戰場上，環境的不可預測性極高。如果AI模型的訓練數據存在偏見（例如將特定族群的傳統服飾誤判為軍服，或將農夫手中的鋤頭誤識別為火箭筒），演算法將在毫秒內執行錯誤的致命打擊。這種技術本質上的不確定性，讓軍控組織根本無法對其進行標準化的「安全與合法性認證」。
如何建立「人類在迴圈中」的絕對底線？
既然全面禁止存在實質難度，退而求其次的國際共識，便是建立「人類在迴圈中（Human-in-the-Loop）」的絕對防線。這意味著無論武器的目標鎖定、威脅評估多麼自動化，最終開火與剝奪生命的決定權，必須掌握在有血有肉、具備道德感的人類手中。
要在實務上貫徹此底線，國際社會可從以下具體作法著手：
1.硬體層面的物理限制（Hardware-level Interlock）：
在軍事載具（如無人機、無人坦克）的武器發射硬體上，嵌入「非數位化」的物理安全鎖。該安全鎖必須接收到人類指揮官的生物識別驗證（如指紋、虹膜）與專屬加密授權碼，方能解鎖發射電路。此舉能確保即使AI演算法發生邏輯錯誤或遭遇駭客劫持，在未獲人類允許前，機器在物理上絕對無法自主開火。
2.軟體架構的「雙機制核可」（Dual-Authorization Software Architecture）：
參考核武發射的雙人確認制，在軍事AI系統的源頭代碼中，寫入無法繞過的「人類否決權」機制。系統必須在軟體介面上強制留出「人類確認視窗」，當AI鎖定目標後，系統將自動暫停並進入倒數，必須由兩名獨立的人類操作員在時限內點擊確認，武器才能執行攻擊。若操作員未作動或按下否決鍵，攻擊程序將被強制終止。
烏克蘭與加薩：演算法戰場的「實戰預演」
國際社會之所以如此焦慮，是因為這場惡夢並非遙不可及的未來，而是正在發生的現實。在烏克蘭與加薩的衝突中，AI輔助與自主武器系統已經進行了深度實戰演練。
從低成本的無人機蜂群對抗，到運用演算法在幾秒內自動生成數千個打擊目標的情報系統，現代戰爭的節奏早已超越了人類大腦的生理極限。當雷達、不對稱作戰與電子干擾在戰場上交織，人類指揮官根本來不及在幾毫秒內判斷真偽並按下按鈕。為了在戰火中存活，軍隊正被迫逐步將「觀察-判斷-決策-行動」的完整交戰權，讓渡給反應速度更快的演算法。
這種「去人類化」的趨勢，徹底動搖了日內瓦公約中有關「區分原則」（區分平民與戰鬥員）與「比例原則」的基石。機器沒有同理心，無法理解「投降」或「寬恕」的道德意涵。正如人權觀察（Human Rights Watch）在發布的報告《人權的危害：自主武器系統與數位決策》中所指出的，當生死判決變成一串冷酷的計算數據時，不僅違反了人類基本的尊嚴，更在法律上創造了一個無法追責的真空地帶。
致命決策不容「外包」！
面對這場迫在眉睫的危機，世界究竟該怎麼辦？教宗良十四世在通諭中開出了轉機的藥方：全球必須建立起明確的倫理約束。這項國際共識的基礎，必須建立在個人的責任和對平民的保護之上。
教宗呼籲，AI技術的開發者肩負著特殊的倫理與精神責任，因為每一項代碼的設計，實質上都反映了創造者對人性的理解；而各國的決策者更應展現道德勇氣，拒絕將不可逆的致命決策「外包」給機器。
核武器是將人類的毀滅交給人類的瘋狂，而AI自主武器則是將人類的生存交給機器的冷酷。目前的軍控談判已站在人類歷史上最關鍵的十字路口，唯有克制對技術優勢的貪婪，在代碼中保留實質的人類控制，人類才能免於走向自我物化與毀滅的科技終局。
（責任編輯：歐敏銓）
- 演算法戰爭：AI自主武器的「去人性化」危機！ - 2026/06/02
- 斷翼的國家隊？解析無人機國造的必要性與當前衝擊 - 2026/05/20
- 邁向具身智慧的下一站：群雄並起的「世界模型」競技場 - 2026/05/14
訂閱MakerPRO知識充電報
與40000位開發者一同掌握科技創新的技術資訊！
