AI Agent 出事誰負責？

針對 AI Agent 負責這件事，前陣子會看到有人在網路上說：「AI Agent 假如出問題誰要負責？」

很多人把這個問題想得太複雜，但如果我們回到事情的本質，其實這件事沒有那麼複雜。

這篇我來簡單分享我個人的看法~

一定是人要做最後的決策

我們可以把 AI Agent 比喻成自己底下的「員工」，
當員工出錯了，誰要承擔？除了員工自己，當然就是直屬主管，
員工本身可能有錯，但主管也離不開管教的責任。

你給 AI 多大的權力，相對就要承擔多大的風險。
如果讓一位新進員工處理幾百萬的業務，出事了不可能只怪新人吧，也不可能只有新人要負責。

以企業治理的角度來說，AI Agent 出事通常可分成兩類問題：

1. 技術能力：Agent 設計不良、漏洞、有 Bug，這當然是開發團隊要負責。
2. 業務決策：輸入錯誤指令、亂設權限、沒有審核結果就採用，這就是使用者或主管要扛。

所以當 AI Agent 某一天出問題，可能導致判斷錯誤、資料外洩，總不可能說句「人不是我殺的」就推卸掉吧 XD。
需要有人承擔責任時，那就看這個 AI Agent 是由誰或單位負責管理、它屬於哪個單位底下，又或者 Agent 的開發團隊，所以這部分一開始就要先講好、先定好。

上個月底我去台北參加微軟亞太技術年會，也有講者提到類似的概念，例如：

• 「人做錯事必須當責，AI 做錯事要罰誰？AI 不領薪水，所以我少燒點 token 來懲罰你？」— 遠傳電信資訊長暨執行副總經理 - 胡德民
• 「AI 時代要找的是肯扛責任的人，因為 AI 不會扛責。如果你不肯扛責任，你的工作直接給 AI 做就好了。」— 微軟最有價值專家 - 胡百敬

AI Agent 只是工具(目前來說 XD)，責任始終在人。

到任何較重要的事情上，記得，一定是人要做最後的決策。這也是 Human-in-the-Loop 的概念~

對於生成式 AI 感興趣的讀者，歡迎追蹤 FB 粉專『 IT空間 』，避免錯過最新的發文通知呦~🔔

一個人追求的目標越高，他的才力就發展得越快，對社會就越有益。

—— 馬克西姆·高爾基