請 AI 寫一封郵件,結果可以先放著不寄;讓 AI 直接操作信箱,寄錯之後就很難收回。同樣是「幫忙處理工作」,能不能改動外部系統,決定了我們需要怎樣的確認。
先看它能做什麼,再看它說得多好
Anthropic 在介紹代理系統時,將按預設路徑執行的工作流程,與由模型動態選擇步驟及工具的代理分開。這是該公司的分類方式,也提供了一個有用的觀察角度:除了答案品質,還要看系統能自行決定多少事情。Building effective agents
實際使用時,不必先爭論產品算不算 Agent。打開授權畫面,確認它能讀取哪些資料、修改哪些項目,以及能否替你對外送出內容,通常更能看清楚風險。
把任務拆成「準備」與「執行」
假設要整理一場活動的邀請名單,可以先讓工具找出重複姓名、標記缺少地址的項目,再產生郵件草稿。寄出前另看一次收件人、附件與內文。這是假設流程,不是本站完成的實測。
如果一開始就交付「整理好並通知所有人」,工具可能必須自行判斷誰算重複、缺資料的人要不要跳過、哪份附件才是最新版。這些判斷有些可以事先訂規則,有些則需要回來問人。任務說明越清楚,越容易知道它應該在哪裡停下來。
權限限制要落在工具上
只在提示詞寫「不要碰其他檔案」,和系統實際只開放指定資料夾,是不同的安排。Anthropic 的 Claude Code 沙盒說明將檔案系統與網路隔離分開處理,目的就是限制程式可以接觸的範圍。這是特定產品的設計說明,不能推論所有標示「沙盒」的工具都有同樣限制。Claude Code 沙盒設計
選工具時,可以問得更具體:讀取權限能否與修改權限分開?是否能限定資料夾?要連到新網站或送出訊息時,會不會停下來確認?若這些限制只能靠一句文字交代,使用者就得承擔更多監督工作。
出錯之後,也要知道停在哪裡
除了開始前的授權,執行紀錄同樣重要。若系統說「處理失敗」,至少要能分辨是尚未送出,還是已送出一部分。否則直接重試,可能把同一封郵件再寄一次,或重複建立紀錄。
因此,評估代理工具時可以先用少量、不敏感的資料,觀察它是否清楚交代已完成與未完成的步驟。這是建議的評估方法,不能取代各工具的正式權限說明。
我們的觀察
工具替人多做一步,確認方式也應該跟著改變。值得保留自動化的,是範圍清楚、結果能檢查的工作;涉及對外承諾或難以回復的動作,則需要讓人看見具體內容再決定。是否可靠,不能只看展示時完成得有多快。
更正與更新|2026/10/15:修復 HTML 顯示錯誤,移除未核實的特定掃描漏洞與交友帳號事件,改以官方文件討論工具權限。本文未進行產品實測;原發布日期保留。
留言
張貼留言
留言會先經過審核。歡迎補充觀點或來源;請勿張貼廣告、無關連結、成人、賭博、藥品或自動產生的內容。