2026/10/4 選題 · 2026/10/5 補刊
10 月 4 日快訊談到自主武器與人類的最後決定權。這個問題不能只看控制室裡有沒有人,或螢幕上是否保留確認按鈕。如果操作人員看不懂判斷依據、來不及介入,甚至無法停止系統,一次點擊究竟代表主導決策,還是只是替自動化流程蓋章?
先分清自動幫忙,與自行選擇攻擊目標
紅十字國際委員會(ICRC)在 2026 年發布的立場文件中,將自主武器描述為啟動後,能在沒有進一步人類介入下選擇並攻擊目標的系統。它關切的是武力使用的決定如何發生,不能把所有使用 AI 的軍事軟體都算成同一類。〔1〕
例如整理補給資料,與根據感測器訊息自行決定攻擊哪個目標,牽涉的後果明顯不同。系統是否像人形機器人、是否會對話,都不是理解這項爭議的必要前提。先看它被允許決定什麼,討論才不會被科幻形象帶走。
ICRC 也強調,既有國際人道法仍適用,義務須由使用武器的人履行。同時它主張需要新的具法律拘束力規則。這是該組織的立場,不能寫成各國已同意的新條約,更不能把仍在討論新規則理解成目前完全沒有法律限制。〔1〕
理解不了的確認,很難承載真正判斷
人類介入要有意義,至少需要知道系統建議了什麼、依據有多可靠,以及哪些資訊還不確定。若介面只呈現一個看似精確的分數,卻隱藏資料來源與例外情況,操作人員可能只是接受了機器的結論。這是本文對控制品質的分析,而非對特定現役裝備的指控。
以下是示意情境:某系統把一段模糊影像分類為可疑車輛,畫面要求人立刻確認。如果人看不到原始影像、不了解模型在相似環境的限制,即使最後由他按下按鈕,也很難說已獨立判斷。這個例子用來說明資訊不對稱,不涉及武器操作方法。
把不確定性呈現出來,可能讓流程變慢,卻是判斷需要的材料。尤其在後果無法挽回的場合,介面不能只優化「更快接受建議」,還應讓拒絕、延後與要求補充資訊成為可行選項。
能否介入,要連同時間與系統邊界一起看
ICRC 對相關專家會議的整理,將可預測性、人類監督及介入能力,以及任務、目標類型、環境、時間等操作限制,列為人類控制的重要元素。這提供一個理解方向:控制不只發生在最後一秒,也存在於系統啟用前的限制。〔2〕
如果流程快到人類實際上無法反應,保留一個停止鍵也不代表有充分介入機會。同樣地,只在設計文件寫著「有人監督」,沒有說明人在何時取得資訊、能改變哪一步,仍難以評估監督是否有效。
因此我們認為,應把控制看成一整段可檢查的安排:事前能否界定用途,運作時能否理解狀態,條件改變後能否停止或縮小範圍。這些是治理層面的檢視問題,不能被一個總體準確率取代。
留下紀錄,才有機會重建責任
出現錯誤後,如果只有「系統建議、操作員確認」兩行紀錄,就很難知道人當時看見了什麼。資料是否過時、警示是否被遮住、限制是否被改動,都可能影響我們理解決策過程。
本文認為,責任紀錄的用途不應只是在事故後找一個人承擔,而是讓組織能回查設計、部署、監督各環節的選擇。這需要相應的紀錄與審查制度;並不表示保存日誌就能自動判定法律責任,個案仍涉及事實與適用規範。
我們的觀察
自主武器的討論提醒我們,人在流程裡出現,與人能真正影響結果,是兩件需要分別驗證的事。把最後一下點擊留給人,如果前面已經把資訊、時間與選項全部拿走,責任就可能被留下,判斷能力卻沒有。
這個思考也能幫助理解其他高風險自動化,但不能直接把戰爭法套用到一般產品。共同值得追問的是:人能否了解理由、提出異議並改變流程?我們應期待技術為這些能力留出空間,而不只是讓「有人確認」成為安心的標籤。
延伸來源
- NineLife AI|當日原快訊
- 〔1〕ICRC|Autonomous Weapon Systems and International Humanitarian Law: Selected Issues(2026)
- 〔2〕ICRC|Expert Meeting on Lethal Autonomous Weapons Systems
作者:NineLife AI 編輯室。本文使用 AI 協助查核公開資料與撰寫;事實依所列來源,示意情境與評估建議為本文分析,未進行獨立產品或模型測試。封面為 AI 生成示意圖。最後更新:2026/10/5。
留言
張貼留言
留言會先經過審核。歡迎補充觀點或來源;請勿張貼廣告、無關連結、成人、賭博、藥品或自動產生的內容。